Spadek gradientu i optymalizacja ciągła

Gradient descent and continuous optimisation · id mathoptimization

Matematyczne podstawy szukania minimum funkcji straty: spadek gradientu, funkcje wypukłe, ograniczenia. Praktyka strojenia treningu jest w „Proces uczenia”.

Mathematical foundations of minimising a loss: gradient descent, convexity, constraints. Practical training tuning lives under “Training optimization”.

In one sentence

To szukanie wartości liczbowych, które dają możliwie dobry wynik według wybranego kryterium.

This searches for numerical values that produce a good result according to a chosen criterion.

Problem it solves

Możliwych ustawień jest zbyt wiele, żeby sprawdzać każde po kolei i wybrać najlepsze.

There are too many possible settings to check each one and select the best.

What it does

Zmienia liczby w kierunku poprawy wybranego wyniku, czasem korzystając z nachylenia jego zmian i uwzględniając ograniczenia.

It changes numbers towards a better result, sometimes using the slope of those changes and accounting for constraints.

Everyday example

Model przewidujący czas dostawy stopniowo zmienia swoje ustawienia, żeby zmniejszyć łączny błąd na zapisanych przykładach.

A delivery time model gradually changes its settings to reduce the total error across recorded examples.

This concerns you if you…

Examples

Subtopics

Related topics

Sources