# Serwowanie wielu adapterów LoRA na jednym modelu

EN: **Multi-LoRA serving** · id `multilora` · aliases: multi-LoRA serving, S-LoRA, LoRA adapter serving, serwowanie wielu LoRA

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Inferencja i infrastruktura](https://aiatlasgraph.com/t/systems.md) › [Serwowanie i dekodowanie](https://aiatlasgraph.com/t/serving.md) › Serwowanie wielu adapterów LoRA na jednym modelu

## Description

- PL: Jeden model bazowy w pamięci GPU obsługuje zapytania do wielu dostrojonych wariantów naraz: adapter LoRA wybierany jest per zapytanie, a adaptery ładowane i wymieniane w locie.
- EN: One base model in GPU memory serves requests for many fine-tuned variants at once: a LoRA adapter is selected per request, and adapters are loaded and swapped on the fly.

## In one sentence

- PL: To obsługiwanie wielu dostrojonych wariantów przy użyciu jednego wspólnego modelu bazowego.
- EN: This serves multiple adapted variants using one shared base model.

## Problem it solves

- PL: Każdy zespół potrzebuje własnego wariantu, ale osobna pełna kopia modelu dla każdego zajmuje dużo pamięci.
- EN: Each team needs its own variant, but keeping a full model copy for each consumes substantial memory.

## What it does

- PL: System dobiera do zapytania mały adapter ze zmianami, pozostawiając wspólne ustawienia modelu w pamięci.
- EN: A system selects a small adaptation component for each request while keeping shared model parameters in memory.

## Everyday example

- PL: Jeden serwer obsługuje odpowiedzi działu wsparcia i sklepu, wybierając odpowiedni adapter dla każdej rozmowy.
- EN: One server handles support and shop responses, selecting the appropriate adaptation component for each conversation.

## This concerns you if you…

- PL: masz kilka dostrojonych wersji tego samego modelu
- PL: chcesz współdzielić pamięć modelu bazowego
- EN: have several adapted versions of the same model
- EN: want to share base-model memory

## Keywords

S-LoRA · per-request adapters · adapter paging · dynamic adapter loading · mixed-adapter batching · adapter memory pools

## How it works

- PL: Wspólne wagi bazowe pozostają załadowane, a identyfikator zapytania wskazuje dodawane projekcje niskorangowe. Harmonogram i kernele grupują lub łączą wykonanie różnych adapterów, zarządzając ich ładowaniem oraz pamięcią oddzielnie od bazy.
- EN: Shared base weights remain loaded while request identifiers select added low-rank projections. Schedulers and kernels group or combine execution across adapters, managing loading and memory separately from the base.

## Limits

- PL: Adaptery muszą pasować do wersji i modułów modelu bazowego. Wiele rang i aktywnych wariantów zwiększa narzut; pomylenie stanu lub identyfikatora może użyć niewłaściwego adaptera.
- EN: Adapters must match base-model versions and modules. Varied ranks and active variants add overhead; mixed state or identifiers can select incorrect adapters.

## Key terms

- PL: **adapter per request**: Wybór dostrojonych parametrów osobno dla każdego zapytania.
- PL: **pula adapterów**: Zbiór wariantów utrzymywanych lub ładowanych według potrzeb serwera.
- EN: **per-request adapter**: Selecting fine-tuned parameters separately for each request.
- EN: **adapter pool**: Variants retained or loaded according to server needs.

## Know first

- [LoRA (Low-rank adaptation)](https://aiatlasgraph.com/t/lora.md)
- [Programowanie GPU (CUDA) (GPU programming (CUDA))](https://aiatlasgraph.com/t/gpuprog.md)

## Examples

- PL: wybór adaptera per zapytanie · wspólna pula pamięci na adaptery i KV cache · dynamiczne ładowanie adapterów · batchowanie mieszanych adapterów
- EN: per-request adapter selection · shared memory pool for adapters and KV cache · dynamic adapter loading · batching mixed adapters

## Related topics

Untyped, symmetric "see also" links.

- [LoRA (Low-rank adaptation)](https://aiatlasgraph.com/t/lora.md)

## Sources

- [S-LoRA: Serving Thousands of Concurrent LoRA Adapters](<https://arxiv.org/abs/2311.03285>) `s-lora-2023` · by Ying Sheng, Shiyi Cao, Dacheng Li, Coleman Hooper, Nicholas Lee, Shuo Yang, Christopher Chou, Banghua Zhu, Lianmin Zheng, Kurt Keutzer, Joseph E. Gonzalez, Ion Stoica
- [LoRA Adapters — vLLM docs](<https://docs.vllm.ai/en/latest/features/lora.html>) `vllm-lora-docs` · by Projekt vLLM · sponsored

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/multilora · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30