Wierność odpowiedzi wobec znalezionych źródeł (RAG)

RAG faithfulness and answer relevance metrics · id ragfaithfulness · aliases: faithfulness, groundedness, answer relevance, context relevance, ugruntowanie w źródłach

Metryki RAG oceniające ugruntowanie odpowiedzi w kontekście, jej trafność względem pytania i trafność samego kontekstu.

RAG metrics scoring how grounded an answer is in its context, how relevant it is to the question and how relevant the context is.

In one sentence

Sprawdzasz, czy każde zdanie odpowiedzi ma pokrycie w dokumentach, które system przed chwilą znalazł, i czy odpowiada na pytanie.

You check whether every sentence of an answer is backed by the documents the system just found, and whether it answers the question.

Problem it solves

Asystent czytający firmowe dokumenty potrafi dopisać rzeczy, których w nich nie ma, a brzmi przy tym pewnie.

An assistant that reads company documents can add things that are not in them while sounding sure of itself.

What it does

Jak redaktor sprawdzający przypisy: rozbija odpowiedź na pojedyncze twierdzenia i przy każdym szuka potwierdzenia w źródle.

Like an editor checking footnotes: it splits the answer into single claims and looks for support for each one in the source.

Everyday example

Pracownik pyta o limit delegacji; ocena pokazuje, że kwota w odpowiedzi nie występuje w żadnym znalezionym fragmencie regulaminu.

An employee asks about the travel allowance; the check shows the amount in the answer appears in none of the retrieved policy passages.

This concerns you if you…

Sources