Egy friss jelentésében taglalja az Anthropic, hogy hogyan fülelt le egy hackert, aki a cég eszközeit használta egészségügyi és kormányzati szervek támadásához.
A mesterséges intelligencia térhódítása óta vissza-visszatérő téma, hogy az ilyen eszközök a kiberbűnözők kezében bizony fegyverré is válhatnak – elvégre, némi kreativitással könnyedén segítségül hívható a tudása illegális kiberműveletek során is.
És hogy ez nem csupán egy elméleti lehetőség, arra maga a Claude nevű MI-eszköz fejlesztője, az Anthropic világított rá. Úgy, hogy a cég közölte: a megakadályoztak egy olyan műveletet, melyben a Claude-ot „fegyverként” kívánták használni.
A cég jelentése szerint a lefülelt zsarolási módszerrel legalább 17 szervezetet vettek célba egy hacker. Voltak köztük egészségügyi és kormányzati intézmények is. Az Anthropic kiemeli: a hacker „példátlan mértékben” támaszkodott a mesterséges intelligenciára ahhoz, hogy megzsarolja az áldozatait, és hat számjegyű váltságdíjat követeljen. Dollárban.
A rosszindulatú fél a cég kódolási asszisztensét, a Claude Code-ot használta ahhoz, hogy automatizálja a felderítést, valamint az áldozatok adatainak begyűjtését, és a behatolást a hálózatokba. Itt azonban még nincs vége, mert a mesterséges intelligenciát ahhoz is használta a hacker, hogy stratégiai döntéseket hozzon, kiderítse, mely adatokat érdemes becélozni, sőt, még a váltságdíj levelének megalkotásához is az MI-t alkalmazta.
Az Anthropic közölte: a támadásról szóló információkat megosztotta az illetékes hatóságokkal, és minden, a bűncselekményhez kapcsolható felhasználói fiókot letiltott. Azóta egy automatizált szűrőeszközt is fejlesztettek, más újítások mellett.
Tovább a cikkre: HVG.hu és engadget.com
