A modell nem egy választ ad ki, hanem minden lehetséges következő tokenre valószínűséget. A temperatúra a mintavétel előtt formálja át ezeket: nulla közelében a modell szinte mindig az esélyest veszi, egy közelében felfedez. Ugyanaz a modell, ugyanaz a prompt, más karakter.
A beállításnak a feladatot kell követnie. Ügyfélválaszok, adatkinyerés és bármi, amit tényellenőriznek, alacsony temperatúrát kér; ötletelés és első vázlat elbír többet. Amit a temperatúra sosem tesz, az a tudásteremtés — a magas érték a rossz választ kreatívabbá teszi, nem helyesebbé.
Kapcsolódó fogalmak
Nagy nyelvi modell (LLM)
Hatalmas szövegmennyiségen tanított modell, amely a következő szövegrészt jósolja meg — és kiderült, hogy ez elég íráshoz, összefoglaláshoz, fordításhoz és sokféle feladat végiggondolásához.
Hallucináció
Magabiztos, gördülékeny, teljesen kitalált válasz: egy hivatkozás, egy szám vagy egy API, ami nem létezik.
Rendszerprompt
Az az állandó utasítás, amely minden beszélgetés elé kerül, és megszabja, mit kell a modellnek csinálnia és hogyan viselkedjen.
Ide tartozó munkapad
Generatív AIStable Diffusion és ComfyUI bekötve oda, ahol a tartalmad valójában készül, finomhangolt modellel, hogy minden úgy nézzen ki, mint te.
