Modyfikowanie prawdziwych złośliwych programów tak, by zachowały działanie, a klasyfikator uznał je za nieszkodliwe, oraz obrona przed takimi atakami.
Modifying real malicious programs so they keep working while a classifier judges them benign, and defending against such attacks.
Badanie, jak przestępcy mogą lekko przerobić wirusa, żeby program ochronny oparty na AI go przepuścił, i jak się przed tym bronić.
Studying how criminals can slightly rework a virus so AI-based protection lets it through, and how to defend against that.
Uczony detektor może mieć ślepe punkty, które atakujący znajdzie szybciej niż jego twórcy.
A trained detector can have blind spots that attackers find faster than its makers do.
Jak włamywacz testujący, które przebranie zmyli bramkarza: obrońcy robią to pierwsi, by poznać słabości i je załatać.
Like a burglar testing which disguise fools the bouncer: defenders do it first to find the weaknesses and fix them.
Zespół bezpieczeństwa dokleja do znanego szkodnika nieszkodliwy kod z popularnej aplikacji i sprawdza, czy ich detektor nadal go wyłapuje.
A security team attaches harmless code from a popular app to a known piece of malware and checks whether their detector still catches it.