Strategie dekodowania

Decoding strategies · id decoding

Sposób wyboru kolejnego tokenu z rozkładu modelu.

How the next token is picked from the model's distribution.

In one sentence

To zasady wybierania kolejnych kawałków tekstu spośród możliwości przewidywanych przez model.

These rules select successive text pieces from the possibilities predicted by a model.

Problem it solves

Ten sam model może tworzyć odpowiedzi zbyt monotonne albo zbyt przypadkowe dla twojego zadania.

The same model can produce responses that are too repetitive or too random for your task.

What it does

System wybiera najbardziej prawdopodobny fragment albo losuje z ograniczonej puli, regulując różnorodność; te ustawienia nie zapewniają prawdziwości odpowiedzi.

A system chooses the likeliest fragment or samples from a restricted pool, controlling variety; these settings do not ensure truthful answers.

Everyday example

Do nazw potraw dopuszczasz większą różnorodność, a dla powtarzalnego formularza wybierasz bardziej przewidywalne generowanie.

You allow more variety when suggesting dish names and choose more predictable generation for a repeatable form.

This concerns you if you…

Examples

Related topics

Sources