# Samonadzorowany pretrening na zdjęciach wielospektralnych

EN: **Self-supervised pretraining for multispectral satellite imagery** · id `eopretraining` · aliases: masked autoencoders for remote sensing, EO self-supervised learning, pretrening teledetekcyjny, multispectral MAE, remote sensing self-supervised learning

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [AI w obserwacji Ziemi i geoinformatyce](https://aiatlasgraph.com/t/geoai.md) › [Modele bazowe dla obserwacji Ziemi](https://aiatlasgraph.com/t/geofm.md) › Samonadzorowany pretrening na zdjęciach wielospektralnych

## Description

- PL: Pretrening transformerów na nieoznaczonych obrazach wielospektralnych i szeregach czasowych przez maskowane autoenkodery lub uczenie kontrastowe, z kodowaniem kanałów, dat i położenia.
- EN: Pretraining transformers on unlabelled multispectral images and time series with masked autoencoders or contrastive learning, encoding bands, dates and location.

## In one sentence

- PL: Uczenie modelu na milionach zdjęć satelitarnych bez opisów: model zgaduje zasłonięte fragmenty i tak poznaje wygląd Ziemi.
- EN: Training a model on millions of unlabelled satellite images: it guesses hidden pieces and so learns what the Earth looks like.

## Problem it solves

- PL: Zdjęcia satelitarne mają kanały niewidoczne dla oka i daty, a modele uczone na zwykłych fotografiach nie wiedzą, co z nimi zrobić.
- EN: Satellite images carry bands invisible to the eye and dates, and models trained on ordinary photos do not know what to do with them.

## What it does

- PL: Jak układanie puzzli z brakującymi kawałkami: dopasowując miliony braków, model uczy się, jak zwykle wyglądają pola, rzeki i miasta.
- EN: Like doing jigsaws with missing pieces: by filling millions of gaps, the model learns how fields, rivers and towns usually look.

## Everyday example

- PL: Naukowcy biorą udostępniony model i dostrajają go do wykrywania pogorzelisk w swoim regionie, zamiast trenować własny od zera.
- EN: Researchers take a published model and fine-tune it to find burn scars in their region instead of training their own from scratch.

## This concerns you if you…

- PL: trenujesz modele na danych satelitarnych
- PL: chcesz zrozumieć, skąd biorą się modele bazowe dla Ziemi
- EN: train models on satellite data
- EN: want to understand where Earth foundation models come from

## Keywords

SatMAE · Prithvi-EO-2.0 · Scale-MAE · SatMAE++ · CROMA · SeCo · masked autoencoder · Harmonized Landsat Sentinel-2 · TerraTorch

## How it works

- PL: Obraz dzieli się na łatki w przestrzeni, czasie i grupach kanałów, część łatek się maskuje, a sieć odtwarza brakujące wartości. Do łatek dodaje się osadzenia daty, grupy spektralnej i czasem położenia. Alternatywnie model uczy się kontrastowo, zbliżając widoki tego samego miejsca z różnych sensorów lub pór.
- EN: The image is split into patches across space, time and band groups, some patches are masked, and the network reconstructs the missing values. Date, spectral-group and sometimes location embeddings are added to patches. Alternatively the model learns contrastively, pulling together views of the same place from different sensors or seasons.

## Limits

- PL: Pretrening wymaga tysięcy godzin GPU i starannego doboru próbek z całego globu. Nie ma jednego najlepszego sposobu wyboru dat, a metadane bywają niedostępne. Model uczony w jednej rozdzielczości słabiej działa w innej.
- EN: Pretraining takes thousands of GPU hours and careful sampling across the globe. There is no single best way to choose dates, and metadata are often missing. A model trained at one resolution performs worse at another.

## Key terms

- PL: **maskowany autoenkoder**: Sieć ucząca się przez odtwarzanie zasłoniętych łatek obrazu.
- PL: **grupa spektralna**: Zestaw pokrewnych kanałów zdjęcia kodowanych razem.
- PL: **osadzenie czasowe**: Wektor mówiący modelowi, z jakiej daty pochodzi łatka.
- EN: **masked autoencoder**: A network that learns by reconstructing hidden image patches.
- EN: **spectral group**: A set of related image bands encoded together.
- EN: **temporal embedding**: A vector telling the model which date a patch comes from.

## Know first

- [Samonadzorowane uczenie z obrazów (Self-supervised visual pretraining)](https://aiatlasgraph.com/t/visionssl.md)
- [Vision Transformer (ViT)](https://aiatlasgraph.com/t/vit.md)

## Related topics

Untyped, symmetric "see also" links.

- [Samonadzorowane uczenie z obrazów (Self-supervised visual pretraining)](https://aiatlasgraph.com/t/visionssl.md)

## Sources

- [Foundation Models for Remote Sensing and Earth Observation: A Survey](<https://arxiv.org/abs/2410.16602>) `xiao-rs-foundation-models-survey-2024` · by Aoran Xiao, Weihao Xuan, Junjue Wang, Jiaxing Huang, Dacheng Tao, Shijian Lu, Naoto Yokoya
- [SatMAE: Pre-training Transformers for Temporal and Multi-Spectral Satellite Imagery](<https://arxiv.org/abs/2207.08051>) `cong-satmae-2022` · by Yezhen Cong, Samar Khanna, Chenlin Meng, Patrick Liu, Erik Rozi, et al.
- [Prithvi-EO-2.0: A Versatile Multi-Temporal Foundation Model for Earth Observation Applications](<https://arxiv.org/abs/2412.02732>) `szwarcman-prithvi-eo-2-2024` · by Daniela Szwarcman, Sujit Roy, Paolo Fraccaro, Þorsteinn Elí Gíslason, Benedikt Blumenstiel, et al. (NASA, IBM i partnerzy)

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/eopretraining · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30