Filtrowanie szkodliwych treści tekstowych w danych treningowych
Harmful text filtering in training data · id contentsafetyfiltering · aliases: toxicity filtering, text safety filtering, filtrowanie toksyczności, pretraining text safety filtering
Klasyfikatorowe i regułowe usuwanie toksycznych, nienawistnych i seksualnych treści z tekstowych korpusów pretrainingowych.
Classifier- and rule-based removal of toxic, hateful and sexual content from text pretraining corpora.
In one sentence
Usuwanie z tekstowego materiału do nauki treści nienawistnych, obraźliwych lub seksualnych, zanim model je przyswoi.
Removing hateful, abusive or sexual content from text training material before a model absorbs it.
Problem it solves
Model uczony na surowym internecie powtarza obelgi i niechciane treści, a później trudno to z niego wyplenić.
A model trained on the raw internet repeats insults and unwanted content, which is hard to remove later.
What it does
Jak sito o regulowanych oczkach: klasyfikator ocenia zdania lub dokumenty, a próg decyduje, ile tekstu odrzucić.
Like a sieve with adjustable mesh: a classifier scores sentences or documents, and a threshold decides how much text to drop.
Everyday example
Asystent do pisania nie podpowiada wulgaryzmów w mailu do klienta, bo takie teksty odsiano przed treningiem.
A writing assistant does not suggest slurs in an email to a client, because such text was sifted out before training.
This concerns you if you…
przygotowujesz dane z internetu do trenowania
zastanawiasz się, czemu modele unikają pewnych tematów
Dolma: an Open Corpus of Three Trillion Tokens for Language Model Pretraining Research · Luca Soldaini, Rodney Kinney, Akshita Bhagia, Dustin Schwenk, David Atkinson, Russell Authur, Ben Bogin, Khyathi Chandu, Jennifer Dumas, Yanai Elazar, Valentin Hofmann, Ananya Harsh Jha, Sachin Kumar, Li Lucy, Xinxi Lyu, Nathan Lambert, Ian Magnusson, Jacob Morrison, Niklas Muennighoff, Aakanksha Naik, Crystal Nam, Matthew E. Peters, Abhilasha Ravichander, Kyle Richardson, Zejiang Shen, Emma Strubell, Nishant Subramani, Oyvind Tafjord, Pete Walsh, Luke Zettlemoyer, Noah A. Smith, Hannaneh Hajishirzi, Iz Beltagy, Dirk Groeneveld, Jesse Dodge, Kyle Lo