Strumieniowe, shardowane zbiory treningowe

Streaming sharded training datasets · id streamingdatasets · aliases: sharded datasets, dataset streaming, formaty shardów, data loading at scale

Organizacja próbek w sekwencyjnie czytanych shardach oraz ich strumieniowe dostarczanie z dysku lub magazynu obiektowego do procesu treningu.

Organising samples into sequentially read shards and streaming them from disk or object storage into training.

In one sentence

Pakowanie ogromnych zbiorów w duże paczki czytane po kolei, żeby karty graficzne nie czekały na dane z dysku.

Packing huge datasets into large chunks read in order, so graphics cards are not left waiting for data from disk.

Problem it solves

Miliardy małych plików czytanych w losowej kolejności dławią dyski i sieć, a drogie GPU stoją bezczynnie.

Billions of small files read in random order choke disks and networks, leaving expensive GPUs idle.

What it does

Jak przewóz towaru w kontenerach zamiast luzem: mniej przeładunków, równy strumień, a tasuje się całe skrzynie i ich zawartość.

Like shipping goods in containers instead of loose: fewer transfers, a steady flow, with crates and their contents shuffled.

Everyday example

Trening startuje od razu z danych w chmurze, bez wielogodzinnego kopiowania milionów zdjęć na serwer.

Training starts straight from cloud data, without hours of copying millions of photos to the server.

This concerns you if you…

Related topics

Sources