# Szukanie i łatanie podatności z AI EN: **AI-assisted vulnerability discovery and repair** · id `vulndiscovery` · aliases: AI vulnerability research, automated vulnerability discovery, cyber reasoning systems, AI bug hunting, wyszukiwanie podatności Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [AI w cyberbezpieczeństwie](https://aiatlasgraph.com/t/cyberai.md) › Szukanie i łatanie podatności z AI ## Description - PL: Modele językowe i agenci, którzy generują testy fuzzingowe, czytają kod w poszukiwaniu błędów bezpieczeństwa i proponują poprawki. - EN: Language models and agents that generate fuzz tests, read code for security bugs and propose fixes. ## In one sentence - PL: AI, które przegląda kod programów w poszukiwaniu ukrytych dziur bezpieczeństwa i podpowiada, jak je załatać. - EN: AI that combs through program code for hidden security holes and suggests how to patch them. ## Problem it solves - PL: W powszechnie używanych bibliotekach latami leżą błędy, bo ludzi zdolnych je znaleźć jest za mało, a kodu za dużo. - EN: Bugs sit for years in widely used libraries because there are too few people able to find them and too much code. ## What it does - PL: Jak niestrudzony korektor, który czyta każdą linijkę, próbuje ją złamać na tysiąc sposobów i od razu dopisuje poprawkę. - EN: Like a tireless proofreader who reads every line, tries to break it a thousand ways and writes the fix straight away. ## Everyday example - PL: Opiekunka darmowej biblioteki dostaje zgłoszenie: zautomatyzowany system znalazł błąd pozwalający zawiesić program i dołączył gotową, przetestowaną łatkę. - EN: A maintainer of a free library gets a report: an automated system found a crash-causing bug and attached a ready, tested patch. ## This concerns you if you… - PL: utrzymujesz kod, z którego korzystają inni - PL: odpowiadasz za bezpieczeństwo aplikacji w firmie - PL: zastanawiasz się, czy AI znajdzie błędy w twoim kodzie - EN: maintain code that others depend on - EN: are responsible for application security at a company - EN: wonder whether AI could find bugs in your code ## Keywords OSS-Fuzz-gen · AIxCC · cyber reasoning system · Big Sleep · variant analysis · PrimeVul · automated program repair · static analysis · coverage-guided fuzzing · CodeQL ## How it works - PL: Model dostaje kontekst projektu (definicje, odwołania, testy) i pisze harnessy fuzzingowe, poprawiając je na podstawie błędów kompilacji i pokrycia. Agenci analizują też zmiany w kodzie pod kątem wariantów znanych błędów, a systemy typu cyber reasoning łączą fuzzing, analizę statyczną i LLM w pętli znajdź–potwierdź–załataj. - EN: The model receives project context (definitions, cross-references, tests) and writes fuzzing harnesses, revising them from compiler errors and coverage. Agents also review code changes for variants of known bugs, and cyber reasoning systems combine fuzzing, static analysis and LLMs in a find–confirm–patch loop. ## Limits - PL: Samo czytanie kodu przez model daje dużo fałszywych zgłoszeń, a na realistycznych benchmarkach wyniki wyraźnie spadają. Każde znalezisko i każdą łatkę trzeba potwierdzić odtwarzalnym crashem lub testem. - EN: Code reading by a model alone yields many false reports, and results drop markedly on realistic benchmarks. Every finding and patch must be confirmed by a reproducible crash or test. ## Key terms - PL: **fuzzing**: Bombardowanie programu losowymi lub zmienionymi danymi, by wywołać błąd. - PL: **harness**: Mały program łączący fuzzer z testowaną funkcją. - PL: **CVE**: Publiczny numer identyfikujący konkretną podatność. - EN: **fuzzing**: Bombarding a program with random or mutated input to trigger a bug. - EN: **harness**: A small program connecting the fuzzer to the function under test. - EN: **CVE**: A public identifier for a specific vulnerability. ## Know first - [Przegląd kodu przez AI (AI code review)](https://aiatlasgraph.com/t/aicodereview.md) - [Agenci i orkiestracja (Agents and orchestration)](https://aiatlasgraph.com/t/agentsnode.md) ## Subtopics (4 direct, 6 in total) - [Bezpieczeństwo kodu pisanego przez AI (Security of AI-generated code)](https://aiatlasgraph.com/t/aicodesecurity.md): Measuring and reducing vulnerabilities in code produced by coding assistants and agents, via tests, benchmarks and secure-generation techniques. - [Fuzzing wspomagany modelami językowymi (LLM-assisted fuzzing)](https://aiatlasgraph.com/t/llmfuzzing.md): Language models write and fix fuzzing harnesses and classify crashes, raising code coverage without manual work. - [Generowanie sterowników fuzzingu przez modele językowe (LLM-based fuzz driver generation)](https://aiatlasgraph.com/t/fuzzdrivergen.md): Language models automatically writing the glue code that connects a fuzzer to a library's functions so random inputs reach deep into the tested code. - [Systemy automatycznego znajdowania i łatania błędów (Cyber reasoning systems for automated find-and-patch)](https://aiatlasgraph.com/t/cyberreasoning.md): Autonomous systems combining fuzzing, static analysis and language models that find a vulnerability, confirm it and generate a tested patch. - [Generowanie łatek na podatności przez modele językowe (LLM-based vulnerability patch generation)](https://aiatlasgraph.com/t/vulnpatchgen.md): Generative models propose code changes intended to repair a known vulnerability. A candidate requires functional testing and security evaluation before use. - [Wykrywanie podatności w kodzie przez modele językowe (Vulnerability detection in source code with language models)](https://aiatlasgraph.com/t/llmvulndetect.md): Language models and agents analysing source code and changes to flag security bugs and variants of known vulnerabilities. ## Related topics Untyped, symmetric "see also" links. - [Przegląd kodu przez AI (AI code review)](https://aiatlasgraph.com/t/aicodereview.md) ## Sources - [Large Language Models for Cyber Security: A Systematic Literature Review]() `xu-llm4security-survey-2024` · by Hanxiang Xu, Shenao Wang, Ningke Li, Kailong Wang, Yanjie Zhao, Kai Chen, Ting Yu, Yang Liu, Haoyu Wang - [Leveling Up Fuzzing: Finding more vulnerabilities with AI]() `google-oss-fuzz-gen-2024` · by Google Open Source Security Team (Google Security Blog) · sponsored - [From Naptime to Big Sleep: Using Large Language Models To Catch Vulnerabilities In Real-World Code]() `project-zero-big-sleep-2024` · by Big Sleep team (Google Project Zero, Google DeepMind) · sponsored - [Vulnerability Detection with Code Language Models: How Far Are We?]() `ding-primevul-2024` · by Yangruibo Ding, Yanjun Fu, Omniyyah Ibrahim, Chawin Sitawarin, Xinyun Chen, Basel Alomair, David Wagner, Baishakhi Ray, Yizheng Chen - [AI Cyber Challenge marks pivotal inflection point for cyber defense (AIxCC final results)]() `darpa-aixcc-results-2025` · by DARPA --- AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/vulndiscovery · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30