Az AI-alapú védekezés érméjének másik oldala, hogy a technológia az exploit-fejlesztést gyorsító eszközként is használható. A Google első alkalommal fedezett fel olyan nulladik napi sérülékenységet, amelyhez nagy valószínűséggel AI támogatásával készült exploit.
Sebezhetőségek automatizált kihasználásával próbálkozó műveletet sikerült elhárítania a Google Threat Intelligence Group (GTIG) csoport beszámolója szerint. A GTIG szinte teljes magabiztosággal állítja, hogy a kiberbűnözők AI-modell segítségével derítettek fel kihasználható zero-day sérülékenységeket a kétfaktoros hitelesítés megkerülésének érdekében egy népszerű nyílt forráskódú webadminisztrációs rendszer ellen intézett támadás keretében, és a bevetett exploitot is AI fejleszthette. A keresőcég szerint még sikerült időben megakadályozni a műveletet, így a támadók nem jártak sikerrel és különösebb kár nem történt.
Egyelőre nem lehet tudni biztosan, hogy az elkövetők csoportja melyik modellt használta fel céljához, de a keresőóriás kizárja azt az opciót, hogy a saját fejlesztésű Geminit vetették volna be. A rosszindulatú szereplőket nem nevezte meg a cég, de a jelentésben említést tesz Kínához és Észak-Koreához köthető csoportokról, melyek „érdeklődést mutattak” a hasonló eljárásokkal kapcsolatban.
A biztonsági kutatók szerint a támadók által készített exploitkód egyszerre több jellel is elárulta, hogy AI-asszisztált fejlesztésről lehet szó. Ilyenek tipikusan a szokatlanul strukturált kommentek, a magyarázó jellegű kódrészletek, a túlságosan konzisztens dokumentáció, a gyors iterációs minták, valamint több exploit-technika kombinálása.
AI-eszközöket eddig főként automatizált csalásokhoz, adathalászathoz vagy egyszerűbb támadásokhoz használtak a kiberbűnözők, de egyre inkább realizálódik a modellek fejlődésével egy újabb fenyegetés: a korábban ismeretlen szoftverhibák felkutatásának és kihasználása képessége.
Az Anthropic épp ezért vezeti be óvatosan az új Mythos modell képességeit, melyet egy rendkívül szűk csoport kezdhetett el tesztelni a Project Glasswing biztonsági programban. Eddig 11 vezető partner kapott korai korlátozott hozzáférést saját védelme megerősítéséhez, köztük az AWS, az Apple, a Google, az Nvidia, a CrowdStrike valamint további 40, főleg kritikus szoftvereken dolgozó kiválasztott szervezet.
A tesztek során felmerült épp a Mythos a felderítésen túl sok esetben exploitokat is fejlesztett a sérülékenységekhez, ami különösen akkor lehet veszélyes, ha rossz kezekbe kerül az eszköz. A múlt héten az OpenAI bejelentette, hogy a legújabb modelljének egy változata, a GPT-5.5-Cyber korlátozott előzetes verzióban kerül bevezetésre ellenőrzött kiberbiztonsági csapatok számára.
Tovább a cikkre: hwsw.hu (Dömös Zsuzsanna)
