Stabilne trenowanie GAN (odległość Wassersteina, kara gradientu)

Stable GAN training: Wasserstein loss and gradient penalty · id wgan · aliases: WGAN, WGAN-GP, Wasserstein GAN, gradient penalty, kara gradientu

Rodzina modyfikacji celu GAN, w której krytyk szacuje odległość Wassersteina między rozkładami, a ograniczenie Lipschitza wymusza kara gradientu.

A family of GAN objective changes where a critic estimates the Wasserstein distance between distributions, with the Lipschitz constraint enforced by a gradient penalty.

In one sentence

Zestaw poprawek, dzięki którym rywalizujące sieci generujące uczą się spokojnie, zamiast się rozjeżdżać albo produkować w kółko to samo.

A set of fixes that let competing generator networks learn steadily instead of falling apart or producing the same thing over and over.

Problem it solves

Trening sieci rywalizujących często się psuje: wyniki skaczą, nauka staje w miejscu, a generator powtarza kilka podobnych obrazów.

Training competing networks often breaks down: results jump around, learning stalls and the generator keeps repeating a few similar images.

What it does

Sędzia zamiast mówić tylko „prawdziwe albo fałszywe”, podaje łagodną ocenę odległości, więc generator zawsze wie, w którą stronę się poprawić.

Instead of a bare real-or-fake verdict, the judge gives a smooth distance score, so the generator always knows which way to improve.

Everyday example

Zespół uczy model tworzenia zdjęć produktów do sklepu i po zmianie sposobu oceniania trening przestaje się sypać po kilku godzinach.

A team training a model to create shop product photos changes the scoring rule, and training stops collapsing after a few hours.

This concerns you if you…

Sources