# Wykrywanie halucynacji

EN: **Hallucination detection** · id `hallucinationdetect` · aliases: hallucination, halucynacje, confabulation, konfabulacje, semantic entropy, factuality

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Ewaluacja i interpretowalność](https://aiatlasgraph.com/t/evaluation.md) › [Odporność i niepewność](https://aiatlasgraph.com/t/robustness.md) › Wykrywanie halucynacji

## Description

- PL: Sprawdzanie, czy model nie wymyśla faktów: porównanie z dostarczonym źródłem, z wiedzą zewnętrzną albo z tym, jak bardzo jego odpowiedzi różnią się przy powtórzeniu pytania.
- EN: Checking whether a model is inventing facts: against the provided source, against outside knowledge, or by how much its answers vary when the question is repeated.

## In one sentence

- PL: To szukanie twierdzeń modelu, które nie mają oparcia w źródłach albo mogą być zmyślone.
- EN: This looks for model claims unsupported by sources or potentially invented.

## Problem it solves

- PL: Model może podać zmyślony fakt pewnym tonem, a płynny tekst utrudnia zauważenie pomyłki.
- EN: A model can confidently state an invented fact, and fluent wording makes the mistake harder to notice.

## What it does

- PL: Porównuje twierdzenia ze źródłami i wiedzą zewnętrzną albo bada rozbieżności między odpowiedziami; brak rozbieżności nie gwarantuje prawdy.
- EN: It compares claims with sources and external knowledge or examines answer disagreements; consistency alone does not guarantee truth.

## Everyday example

- PL: Podsumowanie spotkania zawiera decyzję, której nie było w nagraniu; porównanie ze źródłem wskazuje fragment do poprawienia.
- EN: A meeting summary contains a decision absent from the recording; source comparison flags the passage for correction.

## This concerns you if you…

- PL: odpowiedzi mają zawierać sprawdzalne fakty
- PL: chcesz wykrywać brak oparcia w podanym źródle
- EN: need answers containing verifiable facts
- EN: want to detect claims unsupported by the supplied source

## Keywords

faithfulness · groundedness · semantic entropy · SelfCheckGPT · claim verification · answer consistency

## How it works

- PL: Twierdzenia porównuje się z materiałem źródłowym lub wiedzą zewnętrzną, oceniając ich wsparcie. Inne metody grupują wielokrotne odpowiedzi według znaczenia i mierzą niepewność semantyczną jako sygnał do weryfikacji.
- EN: Claims are compared with source material or external knowledge to assess support. Other methods group repeated answers by meaning and measure semantic uncertainty as a signal for verification.

## Limits

- PL: Zgodne odpowiedzi mogą powtarzać ten sam fałsz. Brak wsparcia w źródle nie zawsze oznacza nieprawdę; detektor zależy od jakości źródeł i oceny znaczenia.
- EN: Consistent answers can repeat the same falsehood. Missing source support does not always mean falsity; detection depends on source quality and semantic assessment.

## Key terms

- PL: **groundedness**: Stopień wsparcia twierdzeń odpowiedzi w dostarczonym materiale źródłowym.
- PL: **entropia semantyczna**: Niepewność rozkładu znaczeń, zamiast samych sformułowań wygenerowanych odpowiedzi.
- EN: **groundedness**: The extent to which supplied source material supports answer claims.
- EN: **semantic entropy**: Uncertainty over meanings rather than just generated answer wordings.

## Know first

- [Wyszukiwanie i RAG (Retrieval-augmented generation)](https://aiatlasgraph.com/t/retrieval.md)
- [Teoria informacji: entropia i dywergencja KL (Information theory: entropy, cross-entropy and KL divergence)](https://aiatlasgraph.com/t/infotheory.md)

## Examples

- PL: wierność wobec kontekstu (faithfulness) · weryfikacja faktów · spójność wielu prób · entropia semantyczna
- EN: faithfulness to context · fact verification · self-consistency across samples · semantic entropy

## Related topics

Untyped, symmetric "see also" links.

- [Automatyczne notatki z wizyty (ambient scribe) (Ambient clinical documentation (AI scribes))](https://aiatlasgraph.com/t/ambientscribe.md)
- [Automatyczne opisy badań obrazowych (Radiology report generation)](https://aiatlasgraph.com/t/radreportgen.md)
- [Kalibracja pewności modelu (Confidence calibration)](https://aiatlasgraph.com/t/calibration.md)
- [Streszczanie tekstu (Text summarisation)](https://aiatlasgraph.com/t/summarization.md)
- [Wyszukiwanie i RAG (Retrieval-augmented generation)](https://aiatlasgraph.com/t/retrieval.md)

## Sources

- [A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions](<https://arxiv.org/abs/2311.05232>) `hallucination-survey-2023` · by Lei Huang, Weijiang Yu, Weitao Ma, Weihong Zhong, Zhangyin Feng, Haotian Wang, Qianglong Chen, Weihua Peng, Xiaocheng Feng, Bing Qin, Ting Liu
- [Detecting hallucinations in large language models using semantic entropy](<https://www.nature.com/articles/s41586-024-07421-0>) `semantic-entropy-nature-2024` · by Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn, Yarin Gal

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/hallucinationdetect · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30