# Omijanie detektorów malware przykładami adwersarialnymi

EN: **Adversarial evasion of malware detectors** · id `advmalware` · aliases: adversarial malware, problem-space attacks, evasive malware generation, adversarial examples for malware, ataki adwersarialne na detektory malware

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [AI w cyberbezpieczeństwie](https://aiatlasgraph.com/t/cyberai.md) › [Wykrywanie złośliwego oprogramowania](https://aiatlasgraph.com/t/malwareml.md) › Omijanie detektorów malware przykładami adwersarialnymi

## Description

- PL: Modyfikowanie prawdziwych złośliwych programów tak, by zachowały działanie, a klasyfikator uznał je za nieszkodliwe, oraz obrona przed takimi atakami.
- EN: Modifying real malicious programs so they keep working while a classifier judges them benign, and defending against such attacks.

## In one sentence

- PL: Badanie, jak przestępcy mogą lekko przerobić wirusa, żeby program ochronny oparty na AI go przepuścił, i jak się przed tym bronić.
- EN: Studying how criminals can slightly rework a virus so AI-based protection lets it through, and how to defend against that.

## Problem it solves

- PL: Uczony detektor może mieć ślepe punkty, które atakujący znajdzie szybciej niż jego twórcy.
- EN: A trained detector can have blind spots that attackers find faster than its makers do.

## What it does

- PL: Jak włamywacz testujący, które przebranie zmyli bramkarza: obrońcy robią to pierwsi, by poznać słabości i je załatać.
- EN: Like a burglar testing which disguise fools the bouncer: defenders do it first to find the weaknesses and fix them.

## Everyday example

- PL: Zespół bezpieczeństwa dokleja do znanego szkodnika nieszkodliwy kod z popularnej aplikacji i sprawdza, czy ich detektor nadal go wyłapuje.
- EN: A security team attaches harmless code from a popular app to a known piece of malware and checks whether their detector still catches it.

## This concerns you if you…

- PL: utrzymujesz detektor malware oparty na uczeniu maszynowym
- PL: oceniasz, czy model wytrzyma celowy atak
- PL: badasz odporność modeli
- EN: maintain a machine-learning malware detector
- EN: assess whether a model will withstand a deliberate attack
- EN: research model robustness

## Keywords

problem-space attack · adversarial examples · evasion attack · adversarial training · Android malware · DREBIN · MalConv evasion · gradient-based attacks · feature-space attack

## How it works

- PL: Atak w przestrzeni problemu przekształca sam program, np. dodając martwy kod, importy lub fragmenty nieszkodliwych aplikacji, z ograniczeniami: zachować działanie, przetrwać przetwarzanie wstępne i wyglądać wiarygodnie. Zmiany dobiera się tak, by przesunąć cechy w stronę klasy nieszkodliwej. Obrona to trening adwersarialny, cechy trudne do zmiany i łączenie wielu detektorów.
- EN: A problem-space attack transforms the program itself, e.g. adding dead code, imports or fragments of benign apps, under constraints: preserve behaviour, survive preprocessing and look plausible. Changes are chosen to push features towards the benign class. Defences include adversarial training, features that are hard to change and ensembles of detectors.

## Limits

- PL: Skuteczność zależy od badanego modelu i przeciwnika. Praca źródłowa obejmuje 150 tys. aplikacji Android z lat 2016 i 2018, więc nie dowodzi odporności na innych platformach. Atak w przestrzeni cech nie zawsze da się przełożyć na działający program, a trening adwersarialny nie zapewnia ochrony przed każdą modyfikacją.
- EN: Effectiveness depends on the model and adversary studied. The cited work covers 150,000 Android apps from 2016 and 2018, so it does not establish robustness on other platforms. A feature-space attack may not map to a functioning program, and adversarial training does not protect against every modification.

## Key terms

- PL: **przestrzeń problemu**: Zmiany w prawdziwym obiekcie, np. pliku, a nie w liczbach cech.
- PL: **cechy uboczne**: Niezamierzone zmiany cech wywołane przeróbką programu.
- PL: **trening adwersarialny**: Douczanie modelu na celowo spreparowanych próbkach ataku.
- EN: **problem space**: Changes to the real object, e.g. a file, not to feature numbers.
- EN: **side-effect features**: Unintended feature changes caused by modifying the program.
- EN: **adversarial training**: Retraining a model on deliberately crafted attack samples.

## Know first

- [Odporność i niepewność (Robustness and calibration)](https://aiatlasgraph.com/t/robustness.md)
- [Statyczna klasyfikacja plików wykonywalnych (Static malware classification of executables)](https://aiatlasgraph.com/t/staticmalware.md)

## Related topics

Untyped, symmetric "see also" links.

- [Odporność i niepewność (Robustness and calibration)](https://aiatlasgraph.com/t/robustness.md)

## Sources

- [Intriguing Properties of Adversarial ML Attacks in the Problem Space \[Extended Version\]](<https://arxiv.org/abs/1911.02142>) `pierazzi-problem-space-attacks-2020` · by Jacopo Cortellazzi, Feargus Pendlebury, Daniel Arp, Erwin Quiring, Fabio Pierazzi, Lorenzo Cavallaro

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/advmalware · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30