Samocena rozmowy pod kątem nadużyć

Conversation self-assessment for misuse detection · id selfassessment · aliases: self-assessment, conversation self-assessment, samocena bezpieczeństwa

Model po odpowiedzi generuje krótką ocenę bezpieczeństwa własnej rozmowy, wykorzystując już obliczony kontekst.

After responding, the model generates a short safety assessment of its own conversation, reusing the already computed context.

In one sentence

Model po odpowiedzi sam sprawdza, czy rozmowa wygląda na potencjalne nadużycie.

After answering, the model checks whether the conversation looks like potential misuse.

Problem it solves

Filtry i klasyfikatory mogą przegapić nowe lub nietypowe formy nadużyć, które model sam rozpoznaje z kontekstu.

Filters and classifiers can miss new or unusual forms of misuse that the model itself recognizes from context.

What it does

Po odpowiedzi model dostaje krótką prośbę o refleksję i zwraca zwięzłą ocenę, która idzie do późniejszego przeglądu.

After the response, the model receives a short reflection request and returns a compact assessment that goes to later review.

Everyday example

Asystent odpowiada na prośbę o pomoc w pisaniu złośliwego kodu, a potem oznacza całą rozmowę jako podejrzaną do sprawdzenia przez człowieka.

An assistant answers a request for help writing malicious code, then flags the whole conversation as suspicious for human review.

This concerns you if you…

Sources