Wyjaśnianie pojedynczej decyzji (SHAP, LIME)

Local feature attribution (SHAP, LIME) · id featureattribution · aliases: SHAP, LIME, Shapley values, wartości Shapleya, local explanations, atrybucja cech

Metody wyjaśniające pojedynczą predykcję przez przypisanie cechom wkładu w wynik. Mogą traktować model jak czarną skrzynkę albo wykorzystywać jego strukturę.

Methods that explain an individual prediction by assigning contributions to input features. They may treat the model as a black box or exploit its structure.

In one sentence

To szacowanie, jaki wkład poszczególne cechy danych miały w konkretną odpowiedź modelu.

This estimates how individual data features contributed to a particular model answer.

Problem it solves

Widzisz przewidywanie, ale nie wiesz, które części opisu podniosły je lub obniżyły względem wybranego porównania.

You see a prediction but do not know which parts of the input raised or lowered it against a chosen reference.

What it does

Porównuje wpływ cech przez zmianę ich zestawów lub prosty model pomocniczy; wynik zależy od metody i przyjętego punktu odniesienia.

It compares feature effects through changed feature combinations or a simple supporting model; results depend on the method and reference choice.

Everyday example

Przy prognozie opóźnienia paczki oglądasz oszacowane wkłady długości trasy, wagi i dnia wysyłki dla tego jednego przypadku.

For one parcel delay forecast, you inspect estimated contributions from route length, weight and dispatch day.

This concerns you if you…

Examples

Related topics

Sources