Modele nagrody

Reward models · id rewardmodels

Model uczony na ocenach ludzi, który punktuje odpowiedzi. Służy do RL, filtrowania danych i oceny.

A model trained on human judgements that scores answers. Used for RL, data filtering and evaluation.

In one sentence

To modele uczące się wystawiać oceny odpowiedzi na podstawie wcześniejszych ocen ludzi.

These models learn to score responses from earlier human evaluations.

Problem it solves

Potrzebujesz ocenić wiele nowych odpowiedzi, a ludzie nie mogą ręcznie sprawdzić każdej z nich.

You need to evaluate many new responses, but people cannot manually inspect every one.

What it does

Porównania uczą model przewidywać preferowaną jakość; jego wynik może kierować treningiem lub wyborem, ale nie zastępuje sprawdzenia poprawności.

Comparisons teach a model to predict preferred quality; its score can guide training or selection but does not replace correctness checks.

Everyday example

Model oceny porównuje nowe odpowiedzi na zgłoszenie i pomaga wybrać bardziej pomocny wariant.

An evaluator model compares new replies to a request and helps select the more helpful option.

This concerns you if you…

Examples

Related topics

Sources