LoRA

Low-rank adaptation · id lora

Dostrajanie z użyciem adapterów o niskim rzędzie. Technika stosowana m.in. do modeli języka i obrazu.

Fine-tuning with low-rank adapters. Used for language and image models alike.

In one sentence

To dostrajanie modelu przez mały zestaw zmian dodawanych do jego dużych tabel ustawień.

This adapts a model using small updates added to its large parameter matrices.

Problem it solves

Pełne dostrajanie dużych tabel modelu zużywa zbyt dużo pamięci i wymaga przechowywania dużych zmian.

Adapting full parameter matrices uses too much memory and requires storing large updates.

What it does

Zmianę dużej tabeli opisuje iloczyn mniejszych tabel, a trening uczy tylko ten zwarty zapis zamiast wszystkich oryginalnych ustawień.

The update to a large matrix is represented by smaller matrices, and training learns this compact update rather than all original parameters.

Everyday example

Uczysz model pisać krótkie opisy sklepu i zapisujesz mały adapter, który można dołączyć do wspólnej wersji bazowej.

You teach a model to write brief shop descriptions and save a small adapter that attaches to the shared base version.

This concerns you if you…

• chcesz dostrajać model przy mniejszej pamięci
• potrzebujesz małego pliku zmian dla zadania
• want model adaptation with less memory
• need a small task-specific update file

Examples

• Nie jest synonimem całego fine-tuningu. W sesji użytkownik opisał wcześniejszą praktykę przy obrazie.
• Not a synonym for fine-tuning as a whole. In this session the user described earlier practice on images.

Subtopics

• QLoRA (Quantized low-rank adaptation (QLoRA)): LoRA on top of a base model stored in 4 bits. Cuts the GPU memory needed for fine-tuning.
• Warianty LoRA (DoRA, LoRA+, AdaLoRA) (LoRA variants): Refinements of basic LoRA: separating weight magnitude and direction, different learning rates for the two adapter matrices, adaptive rank allocation. They aim to close the gap to full fine-tuning.

Related topics

• Dostrajanie przez interwencje w reprezentacje (Fine-tuning through representation interventions)
• Generowanie obrazu i wideo (Image and video generation)
• Katastrofalne zapominanie i jego ograniczanie (Catastrophic forgetting and its mitigation)
• Personalizacja: nauczenie modelu konkretnej osoby, rzeczy lub stylu (Personalisation: teaching a model a specific subject or style)
• Serwowanie wielu adapterów LoRA na jednym modelu (Multi-LoRA serving)

Sources

• Hugging Face · LoRA (PEFT) · reference: Adaptery LoRA, także zastosowania do modeli obrazu.