Az Európai Központi Bank védelmi stratégiákat dolgoz ki az Anthropic Mythos nevű mesterségesintelligencia-modelljével támogatott kibertámadások ellen. Eközben Japán a köz- és magánszféra bevonásával hoz létre munkacsoportot a pénzügyi rendszert fenyegető kockázatok kezelésére.

Christine Lagarde, az EKB elnöke egy spanyolországi rendezvényen beszélt az Anthropic által fejlesztett Mythos modellről. Ezt a mesterséges intelligenciát eredetileg számítógépes kódok sérülékenységeinek feltárására hozták létre.

Kiberbiztonsági szakértők szerint azonban a banki informatikai rendszerek elleni támadások hatékonyságát is drasztikusan növelheti.

A modellhez egyelőre kizárólag amerikai cégek férhetnek hozzá. Lagarde ezt olyan helyzetnek nevezte, amely egyenlőtlen versenyfeltételeket teremt az Egyesült Államok és a világ többi része között.

Az EKB elnöke hangsúlyozta, hogy az intézmény aktívan dolgozik az ellenintézkedéseken. Erre azért van szükség, hogy felkészüljenek egy olyan forgatókönyvre, amelyben egy ellenséges állami szereplő hozzáfér a modellhez. Lagarde szerint egy ilyen támadás leginkább államilag támogatott szereplőktől várható, mivel a kivitelezéshez hatalmas számítási kapacitás szükséges. Az EKB bankfelügyeleti szakemberei már elkezdték felmérni az eurózóna bankjainak felkészültségét. Ennek során azt vizsgálják, mennyire tudnak védekezni az új generációs, kiberbiztonságra fókuszáló AI-modellek jelentette fenyegetések ellen.

Az Európai Bizottság a hét elején közölte, hogy az Anthropic tájékoztatta őket a Mythos képességeiről. Jelenleg azt vizsgálják, milyen hatással lehet a modell az uniós szakpolitikákra és jogszabályokra.

Japán szintén gyorsan reagált a helyzetre. Katajama Szacuki pénzügyminiszter kedden bejelentette, hogy az ország egy köz- és magánszféra bevonásával működő munkacsoportot állít fel. Ennek feladata

a Mythos által a pénzügyi rendszerre jelentett kiberbiztonsági kockázatok kezelése lesz.

A miniszter ezt a bejelentést azon a napon tette, amikor Tokióban tárgyalt Scott Bessent amerikai pénzügyminiszterrel. Katajama kiemelte: a csoport célja, hogy a pénzügyi és technológiai szektor, valamint a döntéshozók közösen értékeljék a mesterséges intelligenciából fakadó potenciális fenyegetéseket.

A japán Pénzügyi Szolgáltatási Ügynökség (FSA) tájékoztatása szerint a munkacsoport első ülését csütörtökön tartják, összesen harminchat résztvevővel. A tagok között megtalálhatók a nagybankok, az internetes bankok és a japán jegybank képviselői, valamint az Anthropic és az OpenAI japán részlegei is. Az ülést a Mizuho Financial Group informatikai biztonsági vezetője, Terai Oszamu irányítja. A munkacsoport megvitatja a sérülékenységek felfedezésekor követendő eljárásokat, a szükséges védelmi intézkedéseket, továbbá a nem teljesen elhárítható fenyegetésekre vonatkozó incidenskezelési terveket. Az FSA emellett fontolóra veszi az amerikai és más külföldi hatóságokkal történő információmegosztást is.

Az Anthropic maga is elismerte, hogy a Mythos alkalmas lehet a visszaélésekre. Éppen ezért a modellt egyelőre csak zárt tesztkörnyezetben, szűk kör számára tették elérhetővé. A vállalat ugyanakkor elindította a Project Glasswing nevű programot, amely korlátozott számú szervezetnek kínál hozzáférést védelmi célokra. Az FSA szerint a japán bankok körében is egyre nagyobb az érdeklődés a program iránt, bár hivatalos csatlakozási kérelmet egyelőre nem erősítettek meg.

Tovább a cikkre: portfolio.hu

Anthropic Project Glasswing

Kritikus szoftverek biztosítása a mesterséges intelligencia korszakában

Ma bejelentjük a Project Glasswing 1-et , egy új kezdeményezést, amely összefogja az Amazon Web Services-t, az Anthropic-ot, az Apple-t, a Broadcom-ot, a Cisco-t, a CrowdStrike-ot, a Google-t, a JPMorganChase-t, a Linux Foundation-t, a Microsoft-ot, az NVIDIA-t és a Palo Alto Networks-t a világ legfontosabb szoftvereinek biztosítása érdekében.

A Project Glasswinget az Anthropic által betanított új határmodellben megfigyelt képességek miatt hoztuk létre, amelyekről úgy gondoljuk, hogy átalakíthatják a kiberbiztonságot. A Claude Mythos 2 Preview egy általános célú, kiadatlan határmodell, amely egy komoly tényt tár fel: a mesterséges intelligencia modelljei elérték a kódolási képességek olyan szintjét, hogy a legképzettebb embereket kivéve, mindenki mást felülmúlnak a szoftveres sebezhetőségek felkutatásában és kihasználásában.

A Mythos Preview már több ezer súlyos sebezhetőséget talált, köztük néhányat minden nagyobb operációs rendszerben és webböngészőben. Tekintettel a mesterséges intelligencia fejlődésének ütemére, nem kell sokáig várni, hogy az ilyen képességek elterjedjenek, potenciálisan túlmutatva azokon a szereplőkön, akik elkötelezettek a biztonságos telepítésük iránt. A következmények – a gazdaságra, a közbiztonságra és a nemzetbiztonságra nézve súlyosak lehetnek. A Glasswing Projekt egy sürgős kísérlet arra, hogy ezeket a képességeket védelmi célokra is alkalmazzák.

A Project Glasswing részeként a fent felsorolt ​​bevezető partnerek a Mythos Preview-t fogják használni védelmi biztonsági munkájuk részeként; az Anthropic megosztja a tapasztalatait, hogy az egész iparág profitálhasson belőle. Emellett több mint 40 további szervezetből álló csoportra is kiterjesztettük a hozzáférést, amelyek kritikus szoftverinfrastruktúrát építenek vagy tartanak fenn, hogy a modellt felhasználhassák mind az első féltől származó, mind a nyílt forráskódú rendszerek szkennelésére és biztonságossá tételére. Az Anthropic akár 100 millió dolláros használati jóváírást is biztosít a Mythos Preview számára ezen erőfeszítések során, valamint 4 millió dolláros közvetlen adományt nyújt a nyílt forráskódú biztonsági szervezeteknek.

A Project Glasswing egy kiindulópont. Egyetlen szervezet sem tudja egyedül megoldani ezeket a kiberbiztonsági problémákat: a határterületi AI-fejlesztőknek, más szoftvercégeknek, biztonsági kutatóknak, nyílt forráskódú szoftverek karbantartóinak és a világ kormányainak mind alapvető szerepük van. A világ kiberinfrastruktúrájának védelme évekig is eltarthat; a határterületi MI-képességek valószínűleg jelentősen fejlődni fognak a következő néhány hónapban. Ahhoz, hogy a kibervédők előnyre tegyenek szert, most kell cselekednünk.

Tovább a weboldalra: anthropic.com/glasswing