Wykrywanie halucynacji

Hallucination detection · id hallucinationdetect · aliases: hallucination, halucynacje, confabulation, konfabulacje, semantic entropy, factuality

Sprawdzanie, czy model nie wymyśla faktów: porównanie z dostarczonym źródłem, z wiedzą zewnętrzną albo z tym, jak bardzo jego odpowiedzi różnią się przy powtórzeniu pytania.

Checking whether a model is inventing facts: against the provided source, against outside knowledge, or by how much its answers vary when the question is repeated.

In one sentence

To szukanie twierdzeń modelu, które nie mają oparcia w źródłach albo mogą być zmyślone.

This looks for model claims unsupported by sources or potentially invented.

Problem it solves

Model może podać zmyślony fakt pewnym tonem, a płynny tekst utrudnia zauważenie pomyłki.

A model can confidently state an invented fact, and fluent wording makes the mistake harder to notice.

What it does

Porównuje twierdzenia ze źródłami i wiedzą zewnętrzną albo bada rozbieżności między odpowiedziami; brak rozbieżności nie gwarantuje prawdy.

It compares claims with sources and external knowledge or examines answer disagreements; consistency alone does not guarantee truth.

Everyday example

Podsumowanie spotkania zawiera decyzję, której nie było w nagraniu; porównanie ze źródłem wskazuje fragment do poprawienia.

A meeting summary contains a decision absent from the recording; source comparison flags the passage for correction.

This concerns you if you…

Examples

Related topics

Sources