# Sprawdzanie stronniczości modeli wobec grup pacjentów

EN: **Bias and equity audits of clinical algorithms** · id `clinicalbias` · aliases: algorithmic bias in healthcare, health equity AI, clinical algorithm fairness, stronniczość algorytmów medycznych, label bias healthcare

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [AI w medycynie i ochronie zdrowia](https://aiatlasgraph.com/t/healthai.md) › [Walidacja kliniczna i dopuszczenie do użytku](https://aiatlasgraph.com/t/clinicalvalidation.md) › Sprawdzanie stronniczości modeli wobec grup pacjentów

## Description

- PL: Ocena różnic w skuteczności i skutkach klinicznych modeli między grupami pacjentów oraz wykrywanie źródeł stronniczości, m.in. etykiet zastępczych.
- EN: Assessing differences in clinical models' performance and consequences across patient groups and finding bias sources, including proxy labels.

## In one sentence

- PL: Sprawdzanie, czy medyczny algorytm nie traktuje gorzej niektórych grup pacjentów, np. kobiet, osób starszych albo biedniejszych.
- EN: Checking that a medical algorithm does not treat some patient groups worse, such as women, older or poorer people.

## Problem it solves

- PL: Algorytm może świetnie działać średnio, a przy tym systematycznie odmawiać dodatkowej opieki tym, którzy potrzebują jej najbardziej.
- EN: An algorithm can do well on average while systematically denying extra care to those who need it most.

## What it does

- PL: Rozkłada wyniki na grupy i porównuje je obok siebie, jak audytor sprawdzający, czy ta sama ocena znaczy to samo dla każdego.
- EN: Breaks results down by group and compares them side by side, like an auditor checking that a score means the same for everyone.

## Everyday example

- PL: Szpital odkrywa, że program wybierający pacjentów do opieki koordynowanej pomijał osoby, na które dotąd mniej wydawano, mimo że były bardziej chore.
- EN: A hospital finds that software choosing patients for extra care skipped people who had cost less so far, even though they were sicker.

## This concerns you if you…

- PL: budujesz model na danych medycznych
- PL: kupujesz algorytm, który decyduje o dostępie do opieki
- EN: build a model on medical data
- EN: buy an algorithm that decides access to care

## Keywords

label bias · proxy labels · subgroup performance · equalized odds · calibration by group · STANDING Together · health equity · fairness audit

## How it works

- PL: Metryki (czułość, kalibrację, odsetek skierowań) liczy się osobno dla podgrup i porównuje przy tym samym progu ryzyka. Szczególnie sprawdza się etykietę: model przewidujący koszty zamiast potrzeb zdrowotnych dziedziczy nierówności w dostępie; zmiana etykiety może usunąć stronniczość.
- EN: Metrics (sensitivity, calibration, referral rate) are computed per subgroup and compared at the same risk threshold. The label is checked especially: a model predicting cost instead of health need inherits unequal access; relabelling can remove the bias.

## Limits

- PL: Dane o przynależności do grup bywają niepełne lub wrażliwe. Różne definicje sprawiedliwości wzajemnie się wykluczają, więc trzeba wybrać, co jest priorytetem. Małe podgrupy dają niepewne szacunki, a audyt nie naprawia nierówności zapisanych w danych.
- EN: Group membership data are often incomplete or sensitive. Fairness definitions conflict, so priorities must be chosen. Small subgroups give uncertain estimates, and an audit does not fix inequities recorded in the data.

## Key terms

- PL: **etykieta zastępcza**: Łatwo mierzalna wielkość użyta zamiast tej, o którą naprawdę chodzi.
- PL: **analiza podgrup**: Liczenie wyników modelu osobno dla różnych grup pacjentów.
- PL: **kalibracja w grupach**: Czy dane ryzyko znaczy to samo w każdej grupie.
- EN: **proxy label**: Easily measured quantity used instead of the real target.
- EN: **subgroup analysis**: Computing model results separately for patient groups.
- EN: **group calibration**: Whether a given risk means the same in every group.

## Know first

- [Metryki sprawiedliwości grupowej (Group fairness metrics)](https://aiatlasgraph.com/t/fairnessmetrics.md)
- [Kalibracja pewności modelu (Confidence calibration)](https://aiatlasgraph.com/t/calibration.md)

## Related topics

Untyped, symmetric "see also" links.

- [Metryki sprawiedliwości grupowej (Group fairness metrics)](https://aiatlasgraph.com/t/fairnessmetrics.md)
- [Ocena znamion i zmian skórnych ze zdjęć (AI classification of skin lesions)](https://aiatlasgraph.com/t/dermatologyai.md)

## Sources

- [Disparities in Dermatology AI: Assessments Using Diverse Clinical Images](<https://arxiv.org/abs/2111.08006>) `ddi-dermatology-2021` · by Roxana Daneshjou, Kailas Vodrahalli, Weixin Liang i in.
- [Dissecting racial bias in an algorithm used to manage the health of populations](<https://doi.org/10.1126/science.aax2342>) `obermeyer-bias-2019` · by Ziad Obermeyer, Brian Powers, Christine Vogeli, Sendhil Mullainathan

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/clinicalbias · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30