Ez a legközelebbi dolog ahhoz, amit egy alkalmazás konfigurációnak hívhat egy modellnél — és közönséges szöveg, ugyanabban a kontextusablakban, mint minden más. A modelleket úgy tanítják, hogy ezt nagyobb súllyal vegyék figyelembe, mint a beszélgetést; ezért szokott működni, és ezért pontos szó a „szokott”.
Két hiba gyakori. Az első az, hogy biztonsági határnak tekintik: ez erős javaslat, nem jogosultsági rendszer, és egy „ne áruld el” utasítás nem olyan kontroll, ami megakadályozza az elárulást. A második az, hogy titkokat tesznek bele. Ami a rendszerpromptban van, azt elküldték egy külső API-nak, és ki lehet belőle csalogatni; a hozzáférési kulcsok az eszközrétegbe valók, ahol a modell műveletet kér, és sosem látja a kulcsot.
Kapcsolódó fogalmak
Prompt injection
Olyan támadás, amelyben a modell utasításként hajtja végre azt a szöveget, amit adatként kellett volna olvasnia.
Kontextusablak
A legnagyobb szövegmennyiség, amit a modell egyszerre figyelembe tud venni — az utasításokkal, a beszélgetéssel és a válasszal együtt.
AI ügynök
Olyan nyelvi modell, amely hívható eszközöket és elérendő célt kapott, így ő dönti el a lépéseket, nem egy rögzített szkriptet követ.
Ide tartozó munkapad
AI automatizálásA heted ismétlődő fele átadva egy szoftvernek, ami nem unja meg. Levelezés szűrése, utánkövetés, riportok, adatmozgatás olyan eszközök között, amiket sosem terveztek együttműködésre.
