Deduplikacja i dekontaminacja

Deduplication and decontamination · id dedup

Usuwanie powtórzeń i prawie-powtórzeń oraz wycinanie z danych treningowych przykładów, które pokrywają się z testami.

Removing duplicates and near-duplicates, and cutting training examples that overlap with test sets.

In one sentence

To usuwanie powtórzeń oraz przykładów, które mogłyby zdradzić modelowi odpowiedzi ze sprawdzianu.

This removes duplicates and learning examples that could reveal answers from a model's test.

Problem it solves

Powtórzenia wypaczają materiał do nauki, a znane pytania sprawdzianu zawyżają ocenę modelu.

Repeated material distorts learning, while familiar test questions make a model's score look better than it should.

What it does

Porównuje treści pod kątem kopii i podobnych fragmentów, także między materiałem do nauki a zbiorem do sprawdzania.

It compares content for copies and similar passages, including overlaps between learning material and the test collection.

Everyday example

Przygotowując materiały szkoleniowe, usuwasz kopie tego samego artykułu i fragmenty pokrywające się z pytaniami sprawdzianu.

When preparing learning material, you remove copies of an article and passages that overlap with test questions.

This concerns you if you…

Examples

Subtopics

Related topics

Sources