Prywatność różnicowa (DP-SGD)

Differential privacy in machine learning · id diffprivacy

Matematyczna gwarancja, że wynik treningu prawie nie zależy od obecności pojedynczej osoby w danych. W praktyce: przycinanie gradientów i dodawanie szumu (DP-SGD) przy kontrolowanym „budżecie prywatności” — kosztem jakości modelu.

A mathematical guarantee that the training result barely depends on whether any single person is in the data. In practice: gradient clipping and added noise (DP-SGD) under a controlled “privacy budget” — at a cost to model quality.

In one sentence

To matematycznie kontrolowane ograniczanie tego, ile wynik może ujawnić o pojedynczym uczestniku danych.

This mathematically controls how much a result can reveal about an individual data contributor.

Problem it solves

Model lub analiza może ujawnić, że konkretna osoba znalazła się w danych treningowych.

A model or analysis can reveal that a particular person contributed to the training data.

What it does

Ogranicza wpływ pojedynczych przykładów i dodaje kontrolowany szum, rozliczając budżet prywatności; silniejsza ochrona może utrudniać uzyskanie dobrej jakości.

It limits individual examples' influence and adds controlled noise while accounting for a privacy budget; stronger protection can make quality harder to achieve.

Everyday example

Trenujesz model na prywatnych wiadomościach, ograniczając wkład każdej osoby i mierząc koszt prywatności całego treningu.

You train a model on private messages, limiting each person's contribution and measuring the privacy cost of the entire training run.

This concerns you if you…

Examples

Related topics

Sources