# Token

> Az egység, amit a nyelvi modell olvas és ír — szótöredék, szó vagy írásjel —, és az az egység, amiben a költségét és a kontextuslimitjét számolják.

A modellek nem szöveget, hanem tokeneket látnak: a gyakori szó egy token, a ritka többre darabolódik, és száz token nagyjából hetvenöt angol szó. Minden modellhívást bemeneti és kimeneti tokenben mérnek — ezért drágul el az a chatbot, ami minden üzenetbe beránt egy hosszú dokumentumot.

A gyakorlati következmény a keretgazdálkodás: a prompt hossza, a beszélgetés története és maga a válasz ugyanazt a kontextusablakot osztja meg, az árazás pedig millió tokenre szól, nem kérésre. A RAG-szerű technikák épp azért léteznek, hogy token csak a lényeges töredékekre menjen.

## Kapcsolódó fogalmak

- https://dfieldsolutions.hu/hu/fogalomtar/context-window.md
- https://dfieldsolutions.hu/hu/fogalomtar/rag.md
- https://dfieldsolutions.hu/hu/fogalomtar/llm.md

---

Source: https://dfieldsolutions.hu/hu/fogalomtar/token
DField Solutions — Dunakeszi, Hungary — dezso@dfieldsolutions.com
Booking: see https://dfieldsolutions.hu/en/contact