# Prompt caching

> A nagy modell-szolgáltatók (Anthropic, OpenAI, Google) támogatják, hogy a prompt elejére tett, ritkán változó blokkot (rendszerprompt, dokumentum-kontextus, eszközdefiníció) a szerver oldalán cache-eljék.

A következő hívás ugyanazzal a prefix-szel 5 perc alatt akár 90 százalék input-token árcsökkenést és kétszer gyorsabb time-to-first-token-t ad. Akkor éri meg, ha a prefix legalább pár ezer token, és sok hívás osztja meg, például egy support-bot, egy RAG-pipeline vagy egy code-review agent. Akkor nem éri meg, ha a prompt minden hívásnál egyedi (például user-level personalizáció a prefix közepén), vagy ha a kontextus alig néhány száz token. A cache-t úgy kell felépíteni, hogy a stabil rész elöl legyen, a változó (felhasználói üzenet) hátul.

## Kapcsolódó fogalmak

- https://dfieldsolutions.hu/hu/fogalomtar/ai-gateway.md
- https://dfieldsolutions.hu/hu/fogalomtar/model-routing.md
- https://dfieldsolutions.hu/hu/fogalomtar/agent-memory.md
- https://dfieldsolutions.hu/hu/fogalomtar/agentic-ai.md

---

Source: https://dfieldsolutions.hu/hu/fogalomtar/prompt-caching
DField Solutions — Torony köz 5-1.a, 2120 Dunakeszi, Hungary — +36 20 722 0002 — dezso@dfieldsolutions.com
Booking: see https://dfieldsolutions.hu/en/contact