# Naturalne strategie ewolucyjne (NES)

EN: **Natural evolution strategies (NES)** · id `naturalES` · aliases: natural evolution strategies, NES, naturalne strategie ewolucyjne

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Obliczenia ewolucyjne i inteligencja roju](https://aiatlasgraph.com/t/evolutionary.md) › [Klasyczne algorytmy ewolucyjne](https://aiatlasgraph.com/t/evoclassic.md) › [Strategie ewolucyjne i CMA-ES](https://aiatlasgraph.com/t/evostrategies.md) › Naturalne strategie ewolucyjne (NES)

## Description

- PL: Rodzina strategii ewolucyjnych aktualizujących parametry rozkładu poszukiwań naturalnym gradientem oczekiwanego przystosowania.
- EN: Evolution strategies that update search-distribution parameters by the natural gradient of expected fitness.

## In one sentence

- PL: Zamiast pojedynczych rozwiązań program przesuwa całą chmurę prób w stronę, gdzie wyniki średnio wypadają lepiej.
- EN: Instead of single solutions the program shifts a whole cloud of trials toward where results are better on average.

## Problem it solves

- PL: Wynik umiemy tylko zmierzyć, a nie wyliczyć jego pochodnej, więc zwykłe uczenie przez gradient nie działa.
- EN: We can only measure a result, not compute its derivative, so ordinary gradient-based learning does not work.

## What it does

- PL: Jak strzelec poprawiający celownik: patrzy, które strzały z rozrzutu trafiły bliżej, i przesuwa środek oraz szerokość serii.
- EN: Like a shooter adjusting the sight: sees which shots in the spread landed closer and moves the centre and width of the next volley.

## Everyday example

- PL: Badacze uczą wirtualnego robota chodzić bez obliczania pochodnych; tysiące lekko zmienionych wersji próbują kroku, a średnia przesuwa się ku lepszym.
- EN: Researchers teach a virtual robot to walk without derivatives; thousands of slightly changed versions try a step, and the average shifts toward better ones.

## This concerns you if you…

- PL: optymalizujesz coś, czego nie da się zróżniczkować
- PL: chcesz zrozumieć strategie ewolucyjne trenujące sieci neuronowe
- EN: optimise something you cannot differentiate
- EN: want to understand evolution strategies that train neural networks

## Keywords

xNES · SNES · search gradient · Fisher information matrix · fitness shaping · log-likelihood trick · OpenAI-ES · evosax

## How it works

- PL: Maksymalizuje się oczekiwane przystosowanie pod rozkładem parametryzowanym θ. Sztuczka log-wiarygodności daje estymator gradientu ze średniej f(z)·∇log π(z|θ) po próbkach, bez różniczkowania funkcji celu. Mnożenie przez odwrotność macierzy Fishera daje gradient naturalny, a rangowe użyteczności zamiast surowych ocen stabilizują kroki.
- EN: Expected fitness under a distribution with parameters θ is maximised. The log-likelihood trick estimates the gradient as the sample mean of f(z)·∇log π(z|θ), never differentiating the objective. Multiplying by the inverse Fisher matrix gives the natural gradient, and rank-based utilities instead of raw fitness stabilise steps.

## Limits

- PL: Słabo radzi sobie z funkcjami o bardzo wielu lokalnych optimach. Pełna macierz kowariancji w xNES kosztuje sześciennie względem wymiaru, a wariant separowalny traci, gdy zmienne mocno od siebie zależą.
- EN: It struggles on highly multimodal functions. The full covariance in xNES costs cubic time in the dimension, while the separable variant suffers when variables are strongly dependent.

## Key terms

- PL: **gradient przeszukiwania**: Kierunek zmiany rozkładu prób, w którym rośnie średni wynik.
- PL: **gradient naturalny**: Gradient poprawiony o geometrię rozkładu, niezależny od parametryzacji.
- PL: **kształtowanie przystosowania**: Zastąpienie surowych ocen wagami zależnymi tylko od rankingu.
- EN: **search gradient**: The direction to shift the trial distribution so the average result rises.
- EN: **natural gradient**: A gradient corrected for the distribution's geometry, independent of parameterisation.
- EN: **fitness shaping**: Replacing raw scores with weights that depend only on rank.

## Know first

- [Gradient polityki (REINFORCE) (Policy gradient methods (REINFORCE))](https://aiatlasgraph.com/t/policygradient.md)
- [Rozkłady prawdopodobieństwa (Probability distributions)](https://aiatlasgraph.com/t/distributions.md)

## Related topics

Untyped, symmetric "see also" links.

- [Strategie ewolucyjne w trenowaniu sieci i LLM (Evolution strategies as an alternative to RL)](https://aiatlasgraph.com/t/esscale.md)

## Sources

- [Natural Evolution Strategies](<https://www.jmlr.org/papers/v15/wierstra14a.html>) `nes-jmlr-2014` · by Daan Wierstra, Tom Schaul, Tobias Glasmachers, Yi Sun, Jan Peters, Jürgen Schmidhuber

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/naturalES · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30