A modell soha nem futtat semmit maga. Strukturált kérést ad ki — ezt a függvényt, ezekkel az argumentumokkal —, és a te kódod dönti el, teljesíti-e, futtatja le, és adja vissza az eredményt. Ez a rés a legfontosabb kontrollfelület bármelyik ügynökben, mert ez az egyetlen hely, ahol ember által írt szabály áll a modell szándéka és a valódi hatás között.
A gyakori hiba az, hogy formaságként kezelik. Az argumentumok modellkimenetek, tehát megbízhatatlanok: úgy kell validálni őket, ahogy egy internetről érkező űrlapbeküldést validálnál, mert lényegében az is. Minden eszköz hozzáférését arra kell szabni, amire az az eszköz szorul, nem arra, amivel az alkalmazás rendelkezik.
Kapcsolódó fogalmak
AI ügynök
Olyan nyelvi modell, amely hívható eszközöket és elérendő célt kapott, így ő dönti el a lépéseket, nem egy rögzített szkriptet követ.
MCP (Model Context Protocol)
Nyílt protokoll arra, hogy eszközöket és adatokat tegyünk elérhetővé egy modellnek, így egy integráció minden olyan klienssel működik, amelyik beszéli.
Prompt injection
Olyan támadás, amelyben a modell utasításként hajtja végre azt a szöveget, amit adatként kellett volna olvasnia.
Ide tartozó munkapad
AI automatizálásA heted ismétlődő fele átadva egy szoftvernek, ami nem unja meg. Levelezés szűrése, utánkövetés, riportok, adatmozgatás olyan eszközök között, amiket sosem terveztek együttműködésre.
