# Hallucináció

> Magabiztos, gördülékeny, teljesen kitalált válasz: egy hivatkozás, egy szám vagy egy API, ami nem létezik.

A szó meghibásodást sugall, és ez félrevezető. A modell pontosan azt csinálja, amit mindig: olyan szöveget állít elő, ami illik egy jó válasz mintázatába. Amikor ismeri az anyagot, az illeszkedő szöveg egyben igaz is. Amikor nem, az illeszkedő szöveg kitaláció, és a folyamatban semmi nem jelzi a különbséget — a modellnek sem.

Ezért nem hordoz információt a magabiztosság, és ezért architekturális a megoldás, nem az, hogy megkérjük a modellt, legyen óvatos. Add oda neki a forrásanyagot, és követeld meg, hogy hivatkozzon arra, amit használt; korlátozd a kimenetet olyan sémára, aminek a formája ellenőrizhető; ellenőrizz mindent, ami olcsón ellenőrizhető; és tegyél embert minden elé, aminél drága a tévedés.

## Kapcsolódó fogalmak

- https://dfieldsolutions.hu/hu/fogalomtar/llm.md
- https://dfieldsolutions.hu/hu/fogalomtar/rag.md
- https://dfieldsolutions.hu/hu/fogalomtar/llm-evaluation.md

---

Source: https://dfieldsolutions.hu/hu/fogalomtar/hallucination
DField Solutions — Dunakeszi, Hungary — dezso@dfieldsolutions.com
Booking: see https://dfieldsolutions.hu/en/contact