Azt szeretné, ha a vállalatok először védekeznének.
Az Anthropic kedden bejelentette, hogy új mesterséges intelligencia modelljét elérhetővé teszi a világ néhány legnagyobb kiberbiztonsági és szoftvercége számára, hogy lelassítsa a hackerek kezébe került mesterséges intelligencia által kiváltott fegyverkezési versenyt.
Az Amazon, az Apple, a Cisco, a Google, a JPMorgan Chase és a Microsoft, valamint más cégek mostantól hozzáférhetnek az Anthropic Mythos modelljéhez kibervédelmi célokra. Ez magában foglalja a hibák felkutatását a cégek szoftvereiben, valamint annak tesztelését, hogy az egyes hackertechnikák működnek-e a termékeiken.
Az Anthropic szerint a Mythos (hivatalos nevén „Claude Mythos Preview”) még nem áll készen a nyilvános megjelenésre, mivel a kiberbűnözők és kémek visszaélhetnek vele – ez a kilátás széles körű aggodalmat keltett Washingtonban és a Szilícium-völgyben.
Szakértők a CNN-nek elmondták, hogy a sebezhetőségeket kereső mesterséges intelligencia-ügynökök sebessége és mértéke, amely messze meghaladja a normális emberi képességeket, gyökeres változást jelent a kiberbiztonságban. Egyetlen mesterséges intelligencia-ügynök gyorsabban és kitartóbban képes lenne sebezhetőségeket keresni, és potenciálisan kihasználni azokat, mint több száz emberi hacker.
„Nem éreztük magunkat kényelmesen általánosságban ezt nyilvánosságra hozni” – mondta Logan Graham, az Anthropic mesterséges intelligencia modellek védelmével foglalkozó csapatának vezetője a CNN-nek. „Úgy gondoljuk, hogy még hosszú utat kell megtennünk a megfelelő biztosítékok meglétéig.”
Az Anthropic emellett tájékoztatta az amerikai kormányzat magas rangú tisztviselőit a Mythos teljes körű támadó és védekező kiberképességeiről – mondta az Anthropic egyik tisztviselője a CNN-nek. A cég emellett „rendelkezésre állt, hogy támogassa a kormány saját technológiai tesztelését és értékelését” – mondta a tisztviselő.
Az Anthropic vezetői abban reménykednek, hogy a Mythos kiválasztott kiadása a felhasználók milliárdjait kiszolgáló vállalatok számára segít majd a támadókkal szembeni védekezésben. A cél az, hogy megelőzzék a széles körben használt internetböngészők és operációs rendszerek jelentős biztonsági réseit, mielőtt azok nyilvánosan elérhetővé válnának.
Az Anthropic szerint más cégek vagy szervezetek is hozzáférhetnek a Mythoshoz, többek között a Broadcom és az Nvidia chipgyártók, a nonprofit Linux Foundation, amely a népszerű Linux operációs rendszert támogatja, amely számos telefont és szuperszámítógépet működtet, valamint a CrowdStrike és a Palo Alto Networks kiberbiztonsági szolgáltatók.
„Ha a modellek ilyen jók – és valószínűleg sokkal jobbak – lesznek minden kiberbiztonsági feladatban, akkor elég gyorsan fel kell készülnünk” – mondta Graham a CNN-nek. „A világ nagyon más lesz most, ha ezek a modellképességek az életünk részévé válnak.”
Egy, a Mythos képességeit bemutató blogbejegyzés, amely a múlt hónapban kiszivárgott, azt állította, hogy a mesterséges intelligencia modellje „messze megelőzi” más modellek kiberképességeit. A Mythos „előrevetíti a modellek olyan közelgő hullámát, amelyek olyan módon tudják kihasználni a sebezhetőségeket, ami messze felülmúlja a védők erőfeszítéseit” – áll a blogbejegyzésben, amelyről először a Fortune számolt be .
Szakértők korábban a CNN-nek elmondták, hogy a Mythos rosszindulatú szereplők általi visszaéléseivel kapcsolatos aggodalmak némelyike eltúlzott volt. A kiszivárogtatás azonban egy kellemetlen igazságra is rávilágított, mondták a források: Ha nem történik változás az irányvonalban, a támadók és a mesterséges intelligencia által lehetővé tett védők közötti szakadék tovább szélesedhet.
Az antropikus állítások szerint a Mythos máris jelentős eredményeket produkált. A modell az elmúlt hetekben „ezer” korábban ismeretlen szoftveres sebezhetőséget talált – ez a szám messze meghaladja az emberi kutatókét, közölte a cég. A CNN nem tudta azonnal megerősíteni ezt a számot.
Az ilyen szoftverhibák megtalálása fáradságos lehet az emberi kutatók számára, és a kémügynökségek és a kiberbűnözők is áhítoznak rájuk lopakodó hackek végrehajtása érdekében.
A kiberbiztonsági szakértők azonban már jóval a Mythos megjelenése előtt is használták a mesterséges intelligenciát a támadások elleni védelemre. Gadi Evron és más biztonsági kutatók decemberben kiadtak egy, az Anthropic Claude modelljén alapuló eszközt, amely javításokat generál a súlyos szoftveres sebezhetőségekre.
„A támadókkal ellentétben a védők még nem rendelkeznek olyan mesterséges intelligencia-képességekkel, amelyek ugyanolyan mértékben gyorsítanák fel őket” – mondta Evron, a Knostic mesterséges intelligencia alapú biztonsági cég alapítója a CNN-nek. „Azonban a támadási képességek mind a támadók, mind a védők számára elérhetőek, és a védőknek használniuk kell őket, ha lépést akarnak tartani.”
Tovább a cikkre: cnn.com (Sean Lyngaas)
