Prywatność i prawa do danych

Privacy and data rights · id privacy

Zasady wykorzystania danych i modeli.

Rules for using data and models.

In one sentence

To ochrona informacji o ludziach i respektowanie zasad wykorzystania danych w modelach.

This protects information about people and respects the rules governing data use in models.

Problem it solves

Prywatna rozmowa lub dokument może trafić do treningu, logów albo odpowiedzi bez odpowiedniej kontroli.

A private conversation or document can enter training, logs or responses without appropriate control.

What it does

Łączy ustalanie praw i zakresu użycia danych z ograniczaniem dostępu, maskowaniem, prywatnym treningiem i sprawdzaniem możliwości usunięcia wpływu danych.

It combines defining data rights and permitted uses with access limits, redaction, private training and checks on removing data influence.

Everyday example

Przed przesłaniem korespondencji do asystenta ustalasz, które dane możesz użyć i co powinno zostać ukryte.

Before sending correspondence to an assistant, you establish which data you can use and what should be hidden.

This concerns you if you…

pracujesz z informacjami o innych osobach
chcesz kontrolować użycie i przechowywanie danych
work with information about other people
want to control data use and storage

Examples

Dane osobowe · zgody · licencje
Personal data · consent · licences

Subtopics

Oduczanie modeli (machine unlearning) (Machine unlearning): Removing the influence of selected data or capabilities (e.g. personal data, copyrighted content) from an already-trained model without retraining from scratch. Still an open problem: it is hard to verify the model truly “forgot”.
Prywatność różnicowa (DP-SGD) (Differential privacy in machine learning): A mathematical guarantee that the training result barely depends on whether any single person is in the data. In practice: gradient clipping and added noise (DP-SGD) under a controlled “privacy budget” — at a cost to model quality.
Uczenie federacyjne (Federated learning): Collaborative model training without centralising raw data: data stays on participants’ devices or servers, which send updates for aggregation. Federated learning alone does not guarantee privacy — updates can leak information, so secure aggregation and differential privacy are among the additional protections used.
Wykrywanie i anonimizacja danych osobowych (PII) (PII detection and anonymisation): Automatically finding personal data (names, numbers, addresses) in text, images and tables and masking or replacing it — before training, in logs and in prompts sent to models. No tool catches everything.

Sources

NIST · AI Risk Management Framework · reference: Uzupełnienie kursów o ryzyko i zarządzanie AI; nie porada prawna.
Full Stack Deep Learning (2022, archiwum) · reference: Pełny cykl systemu ML: dane, testy, wdrażanie, monitoring, zespoły i etyka.