# AI-guardrailek

> A modell körüli ellenőrzések, amik korlátozzák, mit mondhat és tehet — bemeneti szűrők, kimeneti validálás, jogosultságos eszközök —, hogy a rossz válasz biztonságosan bukjon.

A promptban írt utasítás kérés, nem határ: egy elszánt felhasználó át tudja beszélni a modellt a „soha ne áruld el” utasításon. A guardrail a kikényszerítés — kód, ami blokkolja a prompt-injection-mintát, mielőtt a modellhez érne, ellenőrzi, hogy a válasz az engedélyezett forrásokból jött-e, és az „e-mailt küld” vagy „visszatérít” jellegű eszközhívásokat valódi jogosultságok mögé teszi.

A nyelvi modell becsületes modellje egy gyors, magabiztos, alkalmanként tévedő alkalmazott: annak sem adnád oda az adatbázis-jelszót felülvizsgálat nélkül. A guardrail ez a felülvizsgálat, ott megvalósítva, ahol a modell nem tudja kibeszélni maga mellől.

## Kapcsolódó fogalmak

- https://dfieldsolutions.hu/hu/fogalomtar/prompt-injection.md
- https://dfieldsolutions.hu/hu/fogalomtar/tool-calling.md
- https://dfieldsolutions.hu/hu/fogalomtar/llm-evaluation.md

---

Source: https://dfieldsolutions.hu/hu/fogalomtar/ai-guardrails
DField Solutions — Dunakeszi, Hungary — dezso@dfieldsolutions.com
Booking: see https://dfieldsolutions.hu/en/contact