Gradient boosting (XGBoost, LightGBM)

Gradient-boosted trees · id gradientboosting

Drzewa dodawane jedno po drugim, każde poprawia błędy poprzednich. Od lat standard dla danych tabelarycznych i konkursów.

Trees added one after another, each correcting the errors of the previous ones. For years the standard for tabular data and competitions.

In one sentence

To budowanie przewidywania przez dodawanie kolejnych prostych modeli poprawiających dotychczasowe błędy.

This builds a prediction by adding simple models that correct earlier errors.

Problem it solves

Obecny model stale myli się w niektórych sytuacjach, a jedna zmiana nie usuwa wszystkich pomyłek.

The current model repeatedly makes mistakes in some situations, and one change does not remove them all.

What it does

Dodaje modele zadające pytania o cechy, z których każdy uczy się korekty wspólnej odpowiedzi według pozostałego błędu.

It adds models that ask feature questions, each learning a correction to the combined answer based on the remaining error.

Everyday example

Model przewidujący czas dostawy dostaje kolejne poprawki, gdy wcześniejsze przewidywania zaniżają czas dla dalekich tras lub ciężkich paczek.

A delivery time model receives successive corrections when earlier predictions underestimate long routes or heavy parcels.

This concerns you if you…

Examples

Related topics

Sources