# Bezpieczeństwo kodu pisanego przez AI

EN: **Security of AI-generated code** · id `aicodesecurity` · aliases: secure code generation, insecure code suggestions, AI coding assistant security, LLM code security, bezpieczne generowanie kodu

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [AI w cyberbezpieczeństwie](https://aiatlasgraph.com/t/cyberai.md) › [Szukanie i łatanie podatności z AI](https://aiatlasgraph.com/t/vulndiscovery.md) › Bezpieczeństwo kodu pisanego przez AI

## Description

- PL: Pomiar i ograniczanie podatności w kodzie generowanym przez asystentów programowania i agentów kodujących, przez testy, benchmarki i techniki bezpiecznego generowania.
- EN: Measuring and reducing vulnerabilities in code produced by coding assistants and agents, via tests, benchmarks and secure-generation techniques.

## In one sentence

- PL: Sprawdzanie, jak często programy pisane przez AI zostawiają furtki dla włamywaczy, i sposób, żeby było ich mniej.
- EN: Checking how often programs written by AI leave back doors for intruders, and ways to make that rarer.

## Problem it solves

- PL: Kod od AI działa i wygląda porządnie, więc ludzie wdrażają go bez sprawdzenia, razem z ukrytymi błędami bezpieczeństwa.
- EN: AI-written code runs and looks tidy, so people ship it unchecked, hidden security bugs included.

## What it does

- PL: Jak inspektor budowlany na osiedlu stawianym w rekordowym tempie: nie spowalnia ekipy, ale sprawdza instalację gazową, zanim ktoś się wprowadzi.
- EN: Like a building inspector on an estate built at record speed: doesn't slow the crew but checks the gas pipes before anyone moves in.

## Everyday example

- PL: Asystent pisze formularz logowania, który działa, ale wkleja tekst użytkownika prosto do zapytania bazy; automatyczny test przed publikacją wykrywa tę dziurę.
- EN: An assistant writes a login form that works but pastes user text straight into a database query; an automated pre-release test catches the hole.

## This concerns you if you…

- PL: piszesz programy z pomocą AI
- PL: zatwierdzasz kod przed wdrożeniem
- PL: budujesz narzędzia lub agentów do programowania
- EN: write software with AI help
- EN: approve code before release
- EN: build coding tools or agents

## Keywords

CWE Top 25 · BaxBench · CodeQL · Semgrep · SAST · secure code generation · SQL injection · vibe coding security · CyberSecEval

## How it works

- PL: Scenariusze powiązane z CWE i testy bezpieczeństwa mierzą, jak często wygenerowany kod zawiera podatności. Kod sprawdza się osobno testami funkcjonalnymi oraz analizą bezpieczeństwa lub exploitami end-to-end. W praktyce potrzebne są niezależny przegląd i testy, bo poprawność funkcjonalna nie oznacza bezpieczeństwa.
- EN: CWE-linked scenarios and security tests measure how often generated code contains vulnerabilities. Functional behavior is checked separately from security analysis or end-to-end exploits. Independent review and testing remain necessary because functional correctness does not imply security.

## Limits

- PL: Wyniki szybko się dezaktualizują wraz z modelami i obejmują tylko wybrane klasy błędów. BaxBench pokazuje, że funkcjonalnie poprawny backend może nadal być podatny, a mniej popularne frameworki wypadają gorzej. Zdanie benchmarku nie jest więc dowodem bezpieczeństwa produkcyjnego.
- EN: Results age quickly as models change and cover only selected weakness classes. BaxBench shows that a functionally correct backend can still be exploitable, and less popular frameworks perform worse. Passing a benchmark therefore does not establish production security.

## Key terms

- PL: **CWE**: Katalog typowych słabości oprogramowania, np. wstrzyknięcie SQL.
- PL: **exploit**: Konkretny sposób wykorzystania błędu do ataku.
- PL: **analiza statyczna**: Automatyczne szukanie błędów w kodzie bez jego uruchamiania.
- EN: **CWE**: A catalogue of common software weaknesses, e.g. SQL injection.
- EN: **exploit**: A concrete way of using a bug to attack.
- EN: **static analysis**: Automatically finding bugs in code without running it.

## Know first

- [Podpowiadanie kodu w edytorze (Inline code completion (fill-in-the-middle))](https://aiatlasgraph.com/t/codecompletion.md)
- [Przegląd kodu przez AI (AI code review)](https://aiatlasgraph.com/t/aicodereview.md)

## Related topics

Untyped, symmetric "see also" links.

- [Vibe coding: tworzenie bez przeglądania kodu (Vibe coding (creating software without reviewing generated code))](https://aiatlasgraph.com/t/vibecoding.md)

## Sources

- [Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions](<https://arxiv.org/abs/2108.09293>) `pearce-asleep-at-keyboard-2021` · by Hammond Pearce, Baleegh Ahmad, Benjamin Tan, Brendan Dolan-Gavitt, Ramesh Karri
- [BaxBench: Can LLMs Generate Correct and Secure Backends?](<https://arxiv.org/abs/2502.11844>) `vero-baxbench-2025` · by Mark Vero, Niels Mündler, Victor Chibotaru, Veselin Raychev, Maximilian Baader, Nikola Jovanović, Jingxuan He, Martin Vechev

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/aicodesecurity · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30