Wspólna przestrzeń obraz–tekst (CLIP)

Contrastive image–text pretraining (CLIP) · id clipcontrastive

Uczenie wspólnych embeddingów obrazów i podpisów na parach obraz–tekst; pozwala klasyfikować i wyszukiwać obrazy opisem słownym bez dodatkowego treningu (zero-shot).

Learning joint embeddings of images and captions from image–text pairs; enables zero-shot classification and image search by text description.

In one sentence

To uczenie modelu, żeby pasujące zdjęcie i opis miały podobny zapis liczbowy.

This trains a model to give matching images and descriptions similar numerical representations.

Problem it solves

Chcesz wyszukać zdjęcia opisem, choć nikt wcześniej nie nadał im takich podpisów.

You want to search photos with a description even though nobody has given them those captions.

What it does

Model ćwiczy zbliżanie zapisów pasujących par i oddalanie niepasujących, tworząc wspólną mapę obrazów i słów.

A model learns to bring matching pairs closer and separate mismatches, creating a shared map of images and words.

Everyday example

W archiwum zdjęć wpisujesz „pies biegnący po śniegu” i otrzymujesz podobne sceny.

You search a photo archive for “dog running through snow” and receive matching scenes.

This concerns you if you…

Examples

Related topics

Sources