A szó meghibásodást sugall, és ez félrevezető. A modell pontosan azt csinálja, amit mindig: olyan szöveget állít elő, ami illik egy jó válasz mintázatába. Amikor ismeri az anyagot, az illeszkedő szöveg egyben igaz is. Amikor nem, az illeszkedő szöveg kitaláció, és a folyamatban semmi nem jelzi a különbséget — a modellnek sem.
Ezért nem hordoz információt a magabiztosság, és ezért architekturális a megoldás, nem az, hogy megkérjük a modellt, legyen óvatos. Add oda neki a forrásanyagot, és követeld meg, hogy hivatkozzon arra, amit használt; korlátozd a kimenetet olyan sémára, aminek a formája ellenőrizhető; ellenőrizz mindent, ami olcsón ellenőrizhető; és tegyél embert minden elé, aminél drága a tévedés.
Kapcsolódó fogalmak
Nagy nyelvi modell (LLM)
Hatalmas szövegmennyiségen tanított modell, amely a következő szövegrészt jósolja meg — és kiderült, hogy ez elég íráshoz, összefoglaláshoz, fordításhoz és sokféle feladat végiggondolásához.
RAG (visszakereséssel bővített generálás)
Először megkeressük a releváns dokumentumokat, és beletesszük a promptba, így a modell a te anyagodból válaszol, nem a memóriájából.
Kiértékelés (evals)
Megismételhető tesztkészlet, amely megméri, hogy egy AI rendszeren végzett változtatás jobbá vagy rosszabbá tette-e — nem csak mássá.
Ide tartozó munkapad
AI automatizálásA heted ismétlődő fele átadva egy szoftvernek, ami nem unja meg. Levelezés szűrése, utánkövetés, riportok, adatmozgatás olyan eszközök között, amiket sosem terveztek együttműködésre.
