Strojenie hiperparametrów

Hyperparameter tuning · id hptuning · aliases: hyperparameter tuning, hyperparameter optimization, HPO, strojenie hiperparametrów, optymalizacja hiperparametrów

Szukanie ustawień modelu, których nie uczy się z danych (głębokość drzewa, siła regularyzacji, learning rate), na podstawie wyników walidacji.

Searching for model settings that are not learned from data (tree depth, regularisation strength, learning rate) using validation results.

In one sentence

To wybieranie ustawień sterujących modelem i jego nauką przez porównywanie wyników prób.

This chooses settings controlling a model and its learning by comparing trial results.

Problem it solves

Te same dane i ten sam rodzaj modelu mogą dać różne wyniki zależnie od ustawień wybranych przed nauką.

The same data and model type can produce different results depending on settings chosen before learning.

What it does

Próbuje różnych ustawień, takich jak złożoność modelu lub tempo nauki, i ocenia je na osobnych danych sprawdzających.

It tries settings such as model complexity or learning speed and evaluates them on separate validation data.

Everyday example

Sprawdzasz różne maksymalne długości ciągu pytań w modelu przewidującym zwroty i wybierasz ustawienie najlepiej działające na danych sprawdzających.

You test different limits on a model's question sequence when predicting returns and select the setting that performs best on validation data.

This concerns you if you…

Examples

Related topics

Sources