# Prywatność różnicowa (DP-SGD)

EN: **Differential privacy in machine learning** · id `diffprivacy`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Prywatność i prawa do danych](https://aiatlasgraph.com/t/privacy.md) › Prywatność różnicowa (DP-SGD)

## Description

- PL: Matematyczna gwarancja, że wynik treningu prawie nie zależy od obecności pojedynczej osoby w danych. W praktyce: przycinanie gradientów i dodawanie szumu (DP-SGD) przy kontrolowanym „budżecie prywatności” — kosztem jakości modelu.
- EN: A mathematical guarantee that the training result barely depends on whether any single person is in the data. In practice: gradient clipping and added noise (DP-SGD) under a controlled “privacy budget” — at a cost to model quality.

## In one sentence

- PL: To matematycznie kontrolowane ograniczanie tego, ile wynik może ujawnić o pojedynczym uczestniku danych.
- EN: This mathematically controls how much a result can reveal about an individual data contributor.

## Problem it solves

- PL: Model lub analiza może ujawnić, że konkretna osoba znalazła się w danych treningowych.
- EN: A model or analysis can reveal that a particular person contributed to the training data.

## What it does

- PL: Ogranicza wpływ pojedynczych przykładów i dodaje kontrolowany szum, rozliczając budżet prywatności; silniejsza ochrona może utrudniać uzyskanie dobrej jakości.
- EN: It limits individual examples' influence and adds controlled noise while accounting for a privacy budget; stronger protection can make quality harder to achieve.

## Everyday example

- PL: Trenujesz model na prywatnych wiadomościach, ograniczając wkład każdej osoby i mierząc koszt prywatności całego treningu.
- EN: You train a model on private messages, limiting each person's contribution and measuring the privacy cost of the entire training run.

## This concerns you if you…

- PL: uczysz model na wrażliwych danych
- PL: potrzebujesz ilościowo określonej ochrony uczestników
- EN: train models on sensitive data
- EN: need quantitatively defined protection for contributors

## Keywords

DP-SGD · epsilon-delta privacy · gradient clipping · Gaussian mechanism · privacy accounting · Opacus

## How it works

- PL: Gradienty pojedynczych przykładów przycina się do ograniczonej normy, a agregat aktualizacji zaburza kontrolowanym szumem. Analiza kompozycji uwzględnia próbkowanie i kolejne kroki, ograniczając zmianę rozkładu wyniku po zmianie sąsiadującego zbioru.
- EN: Per-example gradients are clipped to bounded norms, and aggregated updates receive calibrated noise. Composition analysis accounts for sampling and successive steps, bounding output-distribution changes between neighbouring datasets.

## Limits

- PL: Gwarancja dotyczy ustalonej jednostki sąsiedztwa i całego budżetu. Szum obniża użyteczność, a błędne rozliczenie lub ujawnienie dodatkowych statystyk może ją naruszyć; ochrona przykładu nie zawsze oznacza ochronę całej osoby.
- EN: Guarantees cover a specified adjacency unit and total budget. Noise reduces utility; incorrect accounting or extra disclosures can break guarantees, and example protection need not protect an entire person.

## Key terms

- PL: **budżet prywatności**: Parametry ograniczające, jak bardzo wynik może zależeć od chronionej jednostki.
- PL: **sąsiadujące zbiory**: Zbiory różniące się jedną ustaloną jednostką chronionych danych.
- EN: **privacy budget**: Parameters bounding how strongly outputs can depend on a protected unit.
- EN: **neighbouring datasets**: Datasets differing in one specified unit of protected data.

## Know first

- [Propagacja wsteczna (backpropagation) (Backpropagation)](https://aiatlasgraph.com/t/backprop.md)
- [Statystyka i niepewność (Statistics and uncertainty)](https://aiatlasgraph.com/t/probability.md)

## Examples

- PL: DP-SGD · budżet prywatności ε · modele językowe trenowane z DP
- EN: DP-SGD · privacy budget ε · language models trained with DP

## Related topics

Untyped, symmetric "see also" links.

- [Proces uczenia (Training optimization)](https://aiatlasgraph.com/t/optimization.md)

## Sources

- [Deep Learning with Differential Privacy](<https://arxiv.org/abs/1607.00133>) `dp-sgd-abadi-2016` · by M. Abadi, A. Chu, I. Goodfellow, H. B. McMahan, I. Mironov, K. Talwar, L. Zhang

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/diffprivacy · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30