A chatbot és az ügynök között az a különbség, hogy az utóbbi cselekedni tud. Egy ügynök kereshet, adatbázist olvashat, e-mailt küldhet vagy API-t hívhat, megnézheti, mi jött vissza, és eldöntheti, mi legyen a következő lépés. Ez a ciklus teszi hasznossá az ügynököket olyan munkára, aminek nincs kötött formája — és ez teszi őket teljesen más biztonsági kérdéssé is.
Minden eszköz, amit egy ügynök elér, elérhető bárkinek, aki befolyásolni tudja a bemenetét — egy ügyfelek felé nyitott ügynöknél ez a nyilvánosságot jelenti. A tervezési kérdés nem az, hogy át lehet-e verni a modellt (tételezd fel, hogy igen), hanem az, hogy mi a legrosszabb kimenet, amikor átverik. Egy tudásbázist olvasó ügynök kis probléma. Ugyanez az ügynök írási joggal a CRM-hez és egy kimenő levelező API-hoz már egészen más.
Kapcsolódó fogalmak
Prompt injection
Olyan támadás, amelyben a modell utasításként hajtja végre azt a szöveget, amit adatként kellett volna olvasnia.
MCP (Model Context Protocol)
Nyílt protokoll arra, hogy eszközöket és adatokat tegyünk elérhetővé egy modellnek, így egy integráció minden olyan klienssel működik, amelyik beszéli.
Eszközhívás
Az a mechanizmus, amellyel a modell megkéri a körülötte futó alkalmazást, hogy futtasson egy megnevezett függvényt, és az eredményt szövegként kapja vissza.
OWASP LLM Top 10
Közösségi lista a nagy nyelvi modellekre épülő alkalmazások legjelentősebb, rájuk jellemző biztonsági kockázatairól.
Ide tartozó munkapad
AI automatizálásA heted ismétlődő fele átadva egy szoftvernek, ami nem unja meg. Levelezés szűrése, utánkövetés, riportok, adatmozgatás olyan eszközök között, amiket sosem terveztek együttműködésre.
