Bezpieczeństwo kodu pisanego przez AI

Security of AI-generated code · id aicodesecurity · aliases: secure code generation, insecure code suggestions, AI coding assistant security, LLM code security, bezpieczne generowanie kodu

Pomiar i ograniczanie podatności w kodzie generowanym przez asystentów programowania i agentów kodujących, przez testy, benchmarki i techniki bezpiecznego generowania.

Measuring and reducing vulnerabilities in code produced by coding assistants and agents, via tests, benchmarks and secure-generation techniques.

In one sentence

Sprawdzanie, jak często programy pisane przez AI zostawiają furtki dla włamywaczy, i sposób, żeby było ich mniej.

Checking how often programs written by AI leave back doors for intruders, and ways to make that rarer.

Problem it solves

Kod od AI działa i wygląda porządnie, więc ludzie wdrażają go bez sprawdzenia, razem z ukrytymi błędami bezpieczeństwa.

AI-written code runs and looks tidy, so people ship it unchecked, hidden security bugs included.

What it does

Jak inspektor budowlany na osiedlu stawianym w rekordowym tempie: nie spowalnia ekipy, ale sprawdza instalację gazową, zanim ktoś się wprowadzi.

Like a building inspector on an estate built at record speed: doesn't slow the crew but checks the gas pipes before anyone moves in.

Everyday example

Asystent pisze formularz logowania, który działa, ale wkleja tekst użytkownika prosto do zapytania bazy; automatyczny test przed publikacją wykrywa tę dziurę.

An assistant writes a login form that works but pastes user text straight into a database query; an automated pre-release test catches the hole.

This concerns you if you…

Related topics

Sources