AI biztonsági öntest

Ingyenes eszköz4 rész · 2 percÍrta: Dezső Mező.mdAI securityOWASP LLMChecklistFree

A checklist ingyenes, és nincs e-mail-kapu: az eredmény abban a pillanatban megjelenik, amint a tizenötödik kérdésre válaszoltál. Teljesen a böngészőben fut, tehát semmi nem kerül elküldésre, hacsak utána nem szeretnél kapcsolatba lépni.

01Öt terület

A kérdések adat, modell, prompt, hozzáférés és válasz szerint csoportosulnak. Minden terület külön is pontozódik, nem csak az összesítésbe számít, mert egy rendszer jellemzően nem egyenletesen jó vagy rossz, hanem néhány tengelyen erős, máson gyenge.

02Mire kérdez rá

Adatosztályozás és PII-maszkolás a modellhívás előtt. Hosztolási régió, és hogy a szerződés kizárja-e a tanítást. Verzió rögzítése a mozgó `latest` helyett. Injection-tesztelés az OWASP LLM Top 10 ellen. Titkok a rendszerpromptban, kizárólag szerveroldali hívások, felhasználónkénti rate- és tokenkorlátok, felhasználónkénti jogosultság a visszakeresésben, és a válaszok ellenőrzése kifelé menet.

03Mit kapsz

Súlyozott pontszám százból és négy értékelési sáv egyike, a kritikustól az erősig. Alatta területenkénti bontás, és egy következő lépések lista, ami csak azokra a kérdésekre generálódik, amelyekre rosszul válaszoltál, mindegyik a saját területével megjelölve.

04Hol áll meg

Ez öntest, tehát nagyjából egy valódi audit első tizedét fedi le. Nem készít fenyegetésmodellt a rendszeredre, és nem épít eval harnesst a saját adataidra. Azt mondja meg, melyik tengelyt nézd meg először, és általában pont ez a kérdés.

Amit érdemes elvinni

Tizenöt kérdés, öt terület, nagyjából öt perc.
Teljesen a böngésződben fut. Nincs e-mail-kapu, semmi nem kerül elküldésre.
Területenként külön pontoz, mert egy rendszer ritkán egyenletesen jó.
Egy valódi audit első tizedét fedi le, és megmondja, melyik tengellyel kezdd.

Ezt is megépítjükKiberbiztonság

Eszköz megnyitása

Több a laborból

Összes bejegyzés

Megnézzük ugyanezt a te rendszereden?Kezdjünk bele