# Kontextusablak

> A legnagyobb szövegmennyiség, amit a modell egyszerre figyelembe tud venni — az utasításokkal, a beszélgetéssel és a válasszal együtt.

Mindennek, amit a modell figyelembe vesz, ebbe az egy keretbe kell férnie: a rendszerpromptnak, a visszakeresett dokumentumoknak, az eddigi teljes beszélgetésnek és annak a válasznak, amit épp írni fog. Amikor egy hosszú csevegés elkezdi elfelejteni, mi hangzott el az elején, az ok általában az, hogy az elejét eldobták, hogy legyen hely.

A nagyobb ablakok egy csomó kerülőutat feleslegessé tettek, a fegyelmet nem. Ha a nagy ablakot mindennel megtöltjük, ami kéznél van, az minden híváson pénzbe kerül, késleltetést ad hozzá, és mérhetően rontja a pontosságot: a modellek kevésbé megbízhatóan figyelnek arra, ami egy nagyon hosszú kontextus közepén van eltemetve. A megfelelő öt oldalt elküldeni még mindig jobb, mint mind a kétszázat.

## Kapcsolódó fogalmak

- https://dfieldsolutions.hu/hu/fogalomtar/llm.md
- https://dfieldsolutions.hu/hu/fogalomtar/rag.md
- https://dfieldsolutions.hu/hu/fogalomtar/system-prompt.md

---

Source: https://dfieldsolutions.hu/hu/fogalomtar/context-window
DField Solutions — Dunakeszi, Hungary — dezso@dfieldsolutions.com
Booking: see https://dfieldsolutions.hu/en/contact