Filtrowanie par obraz–tekst

Image–text pair filtering · id imagetextfiltering · aliases: CLIP filtering, filtrowanie CLIP, filtrowanie par obraz–tekst

Selekcja par obraz–tekst z puli webowej według podobieństwa embeddingów, reguł i klasyfikatorów, mierzona jakością wytrenowanego modelu.

Selecting image–text pairs from a web pool by embedding similarity, rules and classifiers, judged by the quality of the trained model.

In one sentence

Odsiewanie z internetu par zdjęcie–podpis, w których podpis nie pasuje do obrazka albo obrazek jest bezwartościowy.

Weeding out web photo–caption pairs where the caption does not match the picture or the picture is worthless.

Problem it solves

Miliardy zdjęć z sieci mają podpisy w stylu nazwy pliku lub reklamy, więc model kojarzy słowa z niewłaściwymi obrazami.

Billions of web photos have captions like file names or ads, so a model links words to the wrong pictures.

What it does

Inny model ocenia, czy słowa i obraz mówią o tym samym, a do nauki trafia tylko najlepiej dopasowana część.

Another model scores whether the words and the image talk about the same thing, and only the best-matched share is kept.

Everyday example

Zdjęcie psa podpisane „IMG_2041.jpg” wylatuje ze zbioru, a to samo zdjęcie z podpisem „pies na plaży” zostaje.

A dog photo captioned “IMG_2041.jpg” is dropped, while the same photo captioned “a dog on the beach” stays.

This concerns you if you…

Related topics

Sources