DField SolutionsMérnöki stúdió · Budapest
Loading · Töltődik
Ugrás a tartalomhoz
ESETTANULMÁNYOK · saas

AI-ágensek megerősítése a Noaber AI-jal

Joran van Beekkel (Noaber AI) közösen azt vizsgáltuk, hogyan támadják az autonóm AI-ágenseket, amint valódi képességekkel, folyamatosan futnak — és hogy néz ki egy megbízható „megerősített héj” körülöttük. A munkából társszerzős, nyíltan publikált tanulmány lett.

IdőkeretCo-authored research
← Vissza az esettanulmányokhoz
Szakmai ellenőrzés
01Társszerzős, nyílt licencű kutatás — „The Hardened Shell” (CC BY 4.0, DOI 10.5281/zenodo.18471237).
02Újrahasznosítható keretrendszer az ágensek biztonságának és adat-szuverenitásának értékelésére, még a kiadás előtt.
03Offenzív biztonsági mélység közvetlenül AI-ágensekre alkalmazva — ugyanaz a szigor, mint az ügyfélmunkánk mögött, most nyilvánosan és hivatkozhatóan.
A probléma01 / 03
  • 01Az autonóm ágensek ma folyamatosan, a felhasználó nevében futnak — privát adatokat olvasnak, shell-parancsokat futtatnak és memóriát tartanak fenn —, olyan képességekkel, amelyeket eredetileg izolált környezetre terveztek.
  • 02Izolált komponensekből összeállítva elavult bizalmi feltételezéseket örökölnek a lokalitásról, a memória sértetlenségéről és az eszközök megbízhatóságáról, amelyeket a meglévő biztonsági modellek nem kezelnek.
  • 03Ez az „ágens-paradoxon” a manipuláció egészen új osztályait nyitja meg — prompt injection és azon túl —, amit a hagyományos alkalmazásbiztonsági gondolkodás nem lát.
  • 04A széles körben átvett ágens-tervek (az OpenClaw minta) úgy terjedtek el, hogy a biztonsági architektúrájuk alig kapott nyilvános vizsgálatot.
A megoldás02 / 03
  • 01Red team módszerrel vizsgáltuk az OpenClaw ágens-architektúrát, hogy feltérképezzük az autonómia által megnyitott új manipulációs osztályokat.
  • 02A problémát a bizalmi határok, az identitás és a végrehajtási korlátok köré helyeztük — egy „megerősített héj” modell a biztonságért és a szuverenitásért.
  • 03Az utasításkövetést és a prompt-injection-ellenállást mértük, nem a demó-viselkedésre hagyatkoztunk.
  • 04Az elemzést és a módszertant nyíltan publikáltuk, hogy más csapatok is használhassák.
Az eredmény03 / 03
  • 01Társszerzős, nyílt licencű kutatás — „The Hardened Shell” (CC BY 4.0, DOI 10.5281/zenodo.18471237).
  • 02Újrahasznosítható keretrendszer az ágensek biztonságának és adat-szuverenitásának értékelésére, még a kiadás előtt.
  • 03Offenzív biztonsági mélység közvetlenül AI-ágensekre alkalmazva — ugyanaz a szigor, mint az ügyfélmunkánk mögött, most nyilvánosan és hivatkozhatóan.
ESETTANULMÁNYOK

Kezdjünk bele.

Írj egy e-mailt vagy foglalj egy 30 perces hívást.

Vissza az esettanulmányokhoz