# Kaskady modeli: najpierw tańszy model

EN: **LLM cascades** · id `modelcascades`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Produkt i wdrażanie AI](https://aiatlasgraph.com/t/product.md) › [Koszt, jakość i opóźnienie](https://aiatlasgraph.com/t/economics.md) › Kaskady modeli: najpierw tańszy model

## Description

- PL: Wysyłanie zapytania najpierw do tańszego modelu i przekazywanie go droższemu tylko wtedy, gdy odpowiedź wygląda na niepewną lub złą — dla oszczędności przy zachowaniu jakości.
- EN: Sending a query to a cheaper model first and escalating to a more expensive one only when the answer looks uncertain or wrong — saving cost while keeping quality.

## In one sentence

- PL: To próbowanie tańszego modelu najpierw i przekazywanie zadania dalej, gdy jego odpowiedź nie wystarcza.
- EN: This tries a cheaper model first and passes the task onwards when its answer is insufficient.

## Problem it solves

- PL: Używanie drogiego modelu do wszystkich zapytań kosztuje dużo, choć część zadań jest prosta.
- EN: Using an expensive model for every request costs a lot, even though some tasks are simple.

## What it does

- PL: Ocenia wynik tańszego modelu według ustalonych kryteriów i kieruje niedostateczne odpowiedzi do kolejnego; skuteczność zależy też od tej oceny.
- EN: It assesses a cheaper model's output against defined criteria and escalates inadequate answers; effectiveness also depends on that assessment.

## Everyday example

- PL: Proste zgłoszenie porządkuje tańszy model, a przypadek z odpowiedzią ocenioną jako niepewna trafia do bardziej zaawansowanego modelu.
- EN: A cheaper model sorts a simple case, while a case with an answer assessed as uncertain goes to a more capable model.

## This concerns you if you…

- PL: część twoich zadań jest znacznie łatwiejsza od pozostałych
- PL: potrafisz sprawdzać, kiedy pierwsza odpowiedź nie wystarcza
- EN: have some tasks much easier than others
- EN: can assess when the first answer is insufficient

## Keywords

FrugalGPT · confidence thresholds · early exits · fallback models · cascade policies · quality-cost trade-offs

## How it works

- PL: Pierwszy model obsługuje zapytanie, a kryterium jakości decyduje o przyjęciu wyniku lub przekazaniu dalej. Progi i kolejność modeli dobiera się na danych walidacyjnych, uwzględniając koszt wcześniejszych prób oraz późniejszej eskalacji.
- EN: An initial model handles a query, and a quality criterion decides acceptance or escalation. Thresholds and model ordering are fitted on validation data, accounting for earlier-attempt costs and later escalation.

## Limits

- PL: Źle skalibrowany sygnał zatrzymuje błędne odpowiedzi lub eskaluje poprawne. Skorelowane błędy modeli ograniczają korzyść; trudne przypadki płacą za kilka przebiegów i większe opóźnienie.
- EN: Miscalibrated signals retain incorrect answers or escalate correct ones. Correlated model errors limit gains; difficult cases incur multiple runs and greater latency.

## Key terms

- PL: **próg eskalacji**: Warunek przekazania zadania do kolejnego modelu.
- PL: **polityka kaskady**: Reguły kolejności modeli i akceptowania ich wyników.
- EN: **escalation threshold**: A condition transferring a task to the next model.
- EN: **cascade policy**: Rules governing model order and acceptance of their outputs.

## Know first

- [Kalibracja pewności modelu (Confidence calibration)](https://aiatlasgraph.com/t/calibration.md)
- [Zbiory testowe i regresje (Evaluation datasets and regression tests)](https://aiatlasgraph.com/t/evalsets.md)

## Examples

- PL: FrugalGPT · ocena pewności odpowiedzi · eskalacja do modelu granicznego
- EN: FrugalGPT · answer confidence scoring · escalation to a frontier model

## Related topics

Untyped, symmetric "see also" links.

- [Routing między modelami (Model and harness routing)](https://aiatlasgraph.com/t/routing.md)

## Sources

- [FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance](<https://arxiv.org/abs/2305.05176>) `frugalgpt-2023` · by Lingjiao Chen, Matei Zaharia, James Zou (Stanford)

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/modelcascades · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30