Wyjaśnienia „co by było, gdyby” (kontrfaktyczne)

Counterfactual explanations · id counterfactualexpl · aliases: counterfactual explanations, wyjaśnienia kontrfaktyczne, what-if explanations

Najmniejsza zmiana danych wejściowych, która odwróciłaby decyzję modelu — np. co musiałoby się zmienić we wniosku, żeby kredyt został przyznany.

The smallest change to the input that would flip the model's decision — e.g. what would have to change in an application for the loan to be approved.

In one sentence

To szukanie małych zmian w danych, które zmieniłyby odpowiedź modelu na inną.

This seeks small input changes that would make a model give a different answer.

Problem it solves

Nie wiesz, jak blisko innej decyzji jest dany przypadek ani które zmiany wejścia mogłyby ją odwrócić.

You do not know how close a case is to another decision or which input changes could reverse it.

What it does

Próbuje wykonalnych zmian cech i szuka odwrócenia decyzji przy małej zmianie; to opis modelu, a nie gwarancja rzeczywistego skutku.

It tries feasible feature changes and seeks a decision reversal with little alteration; this describes the model, not a guaranteed real outcome.

Everyday example

W kopii danych przesyłki szukasz zmiany daty nadania, przy której model przestaje przewidywać opóźnienie, i sprawdzasz realistyczność takiej zmiany.

In a copy of shipment data, you seek a dispatch date change that removes the model's delay prediction and check whether that change is realistic.

This concerns you if you…

Examples

Related topics

Sources