Szablony czatu i formaty rozmów

Chat templates and conversation formats · id chattemplates

Jak rozmowa jest zapisana w zbiorze i zamieniona na tekst dla modelu. Szablon z treningu musi się zgadzać przy uruchomieniu.

How a conversation is stored in a dataset and turned into text for the model. The training template has to match at inference.

In one sentence

To ustalony sposób zapisywania rozmowy, żeby model rozpoznawał role, wiadomości i początek swojej odpowiedzi.

This formats conversations so a model recognises roles, messages and where its response starts.

Problem it solves

Model odpowiada dziwnie, gdy wiadomości są zapisane inaczej niż rozmowy używane podczas jego uczenia.

A model responds oddly when messages are formatted differently from the conversations used in training.

What it does

Szablon dodaje właściwe znaczniki i kolejność wiadomości; aplikacja powinna stosować format zgodny z treningiem danego modelu.

A template adds appropriate markers and message order; an application should use the format matching that model's training.

Everyday example

Po zmianie modelu sprawdzasz szablon rozmowy, żeby nie traktował treści użytkownika jak własnej wcześniejszej odpowiedzi.

After changing models, you check the conversation template so user content is not interpreted as the model's earlier reply.

This concerns you if you…

Examples

Related topics

Sources