Dosypywanie zapytań do trwającej partii zamiast czekania na jej koniec.
Adding requests to a running batch instead of waiting for it to finish.
To dołączanie nowych zapytań do wspólnej pracy modelu, gdy inne zapytania już się kończą.
This adds new requests to a model's shared workload as other requests finish.
Krótkie rozmowy zwalniają miejsce, ale nowe pytania czekają, aż zakończy się najdłuższa odpowiedź w grupie.
Short conversations free up space, but new questions wait until the group's longest response finishes.
Po kolejnych krokach generowania zakończone zapytania są usuwane, a wolne miejsca zajmują nowe, utrzymując sprzęt przy pracy.
After generation steps, completed requests leave and new ones take free slots, keeping hardware occupied.
Gdy jedna osoba dostanie krótką odpowiedź, serwer od razu dołącza następne pytanie do nadal obsługiwanych rozmów.
When one person receives a short answer, the server adds another question to the conversations still being processed.