Azonnali hatállyal exporttilalmi intézkedéseket léptetett életbe az Egyesült Államok az Anthropic két legfejlettebb AI-modelljével, a Fable 5-tel és a Mythos 5-tel szemben. A cég válaszul minden felhasználója számára elérhetetlenné tette a múlt héten bemutatott modelleket.
Újabb fronton feszült egymásnak a fű alatt tőzsdére készülő Anthropic és az Egyesült Államok kormánya. Az amerikai kormányzat pénteken azonnali exporttilalmi intézkedéseket léptetett életbe az AI-startup két legfejlettebb mesterségesintelligencia-modelljére, a Fable 5-re és a Mythos 5-re, melyre válaszul a cég globálisan megszüntette a modellek elérhetőségét.

Három nap alatt lépett a kormány

A két ominózus modellt alig három nappal a kormányzati tiltás előtt mutatták be, nagyjából két hónappal azután, hogy megjelent a minden idők egyik „legveszélyesebbnek” tartott modelljének, a Mythosnak az előnézeti kiadása a Project Glasswing biztonsági program keretében.

Múlt héten az Anthropic bejelentette a Mythos Preview után érkező Claude Mythos 5 privát elérhetőségét a Glasswing partnerek számára, valamint a Fable 5 modellt, amit a Mythos „biztonságossá tett” változataként aposztrofált.

A frissen bemutatott Claude Fable 5 ugyanarra az alaptechnológiára épül, mint a Mythos, de speciális védelmi rétegek figyelik a felhasználói kéréseket. Az Anthropic szerint maga a modell nem lett gyengébb teljesítményben, de sikerült olyan biztonsági mechanizmusokat beépíteni, melyekkel nagyobb hatékonysággal akadályozhatók meg a visszaélések. Ha a rendszer például kiberfegyverekre, sérülékenységek kihasználására, biológiai vagy vegyi veszélyekre vonatkozó lekérdéseket/utasításokat érzékel, automatikusan a korlátozottabb képességű Opus 4.8 modellnek irányítja át a feladatot.

Az Anthropic a Mythos megjelenését követően maga hívta fel a figyelmet a rendszer veszélyeire. A vállalat akkori kommunikációja szerint a Mythos olyan jelentős fenyegetést jelenthet a digitális infrastruktúrákra, hogy nyilvános kiadása nem is jöhet szóba – ehhez képest alig néhány hónappal később már egy széles körben elérhető változatot kínált belőle a cég.

A kritikusok múlt hét közepén még úgy vélték, hogy a társaság korábban túlzott a kockázatokat illetően, de rosszabb esetben a bevezetett és frissen bejelentett biztonsági garanciák túl optimisták.

Az USA kormányának pénteki döntése inkább az utóbbi forgatókönyvet erősíti, ráadásul a kormányzat az Anthropicnak „szóban” vázolta is, hogy a Fable 5 biztonsági korlátait máris sikerült feltörnie egy független csapatnak. Erre válaszul született meg azonnal az exporttilalmi intézkedés, mely minden külföldi felhasználót érint, beleértve azokat is, akik az Egyesült Államok területén tartózkodnak.

Az Anthropic pedig erre hivatkozva állította le teljesen a két modell hozzáférhetőségét, mivel a cég szerint a rendelkezésére álló eszközökkel nem lehet minden kétséget kizáróan szűrni a felhasználók állampolgárságát.

Az ügyben kiadott közleményben a startup egyben leszögezi, hogy vélhetően valamilyen félreértésről lehet csupán szó a kormányzat részéről, a cég illetékesei pedig már Washingtonban vannak, hogy egyeztetést folytassanak a modellek mielőbbi újraindításáról.

Az Anthropicnak nem ez az első kellemetlen afférja az Egyesült Államok kormányával. Az OpenAI-ból kiugrott felsővezetők által alapított vállalatot március elején a nemzetbiztonsági kockázatot jelentő entitások közé sorolta a Pentagon, amiért a cég nem járult hozzá ahhoz, hogy modelljeit a hadsereg korlátozások nélkül használhassa hadműveleti célokra is.

Tovább a cikkre: hwsw.hu (Koi Tamás)

Minden korábbinál veszélyesebb AI-modell jelent meg – az amerikai kormány gyorsan el is zárta a világtól

Az Anthropic alig három nappal a Claude Fable 5 és Mythos 5 modellek bemutatása után kénytelen volt globálisan leállítani azok elérhetőségét, miután az amerikai kormány nemzetbiztonsági kockázatokra hivatkozva exportkontroll-direktívát adott ki. A lépés hátterében az áll, hogy az Amazon kutatói egy biztonsági rést fedeztek fel a modellekben, amelyeknek kiemelkedő kiberbiztonsági képességei – például szoftversebezhetőségek önálló felkutatása és kihasználása – támadó célú visszaélésekre is alkalmasak lehetnek. Az Anthropic szerint a korlátozás aránytalan, mivel hasonló képességek más modelleknél is elérhetők, a cég saját mérései azonban azt mutatják, hogy a Mythos 5 több mint kétszer olyan hatékony a sebezhetőségek kihasználásában, mint a konkurens GPT-5.5. Az eset nem csak amerikai belügy, arra is rávilágít, hogy egyetlen washingtoni döntés globálisan megbéníthatja az élvonalbeli AI-modellekre épülő európai vállalatokat is.

Mindenki az új modelleket várta – végül senki sem használhatja őket

Bár a mesterséges intelligencia ma már jóval többről szól, mint chatbot-felületekről, a legnagyobb fejlesztők versenye továbbra is látványosan az új nyelvi modellek teljesítménye körül forog. A cégek jellemzően – a számukra előnyös kategóriák tekintetében – a piacon elérhető legjobbnak titulálják az új modelljeiket

Nem volt ez másképp az egyik legfontosabb AI-vállalatnak, és újabban már a világ legértékesebb startupjának számító Anthropic legutóbbi bejelentésével kapcsolatban sem. A múlt hét kedden elérhetővé vált Claude Fable 5 modellel kapcsolatban a vállalat azt írta, a képességei „meghaladják minden olyan modellét, amelyet eddig széles körben elérhetővé tettek” és szinte minden benchmark tekintetében a legkorszerűbbnek számít a piacon. A megjelenést még jelentősebbé tette, hogy a Fable-lel egy időben egy szűk kör számára elérhetővé vált a Mythos 5 modell is, amelynek korábbi, még „preview” változatával az Anthropic már idén tavasszal alaposan felkavarta az állóvizet.

Az állítólag rendkívüli erősségű modell története az Anthropic Project Glasswing nevű programjával kezdődött idén áprilisban, mikor a cég körülbelül 50 megbízható partnerének (köztük az Amazonnak, a Google-nek és a Microsoftnak) hozzáférést biztosított a Claude Mythos Preview modelljéhez. Állításuk szerint a modellt azért nem tették nyilvánosan elérhetővé, mert azt képességei miatt túl veszélyesnek ítélték meg. A különféle iparági szereplőkkel végzett tesztek során a modell kevésbé korlátozott verziója képes volt szoftverekben önállóan sebezhetőségeket találni és kihasználni, ami azt bizonyította, hogy a hibák feltárásán és javításán túl természetesen a visszaélésekhez is használható lett volna. A múlt héten bemutatott Mythos 5 ennek a Preview-nak a még erősebb utódja; a nyilvánosság számára is elérhetővé tett Fable 5 pedig a „megszelídített”, erősebb védőkorlátokkal ellátott változatát jelenti.

A modellek bemutatóját tehát a szokásosnál is nagyobb várakozás előzte meg, főleg azzal együtt, hogy az Anthropic által fejlesztett Claude népszerűsége nagyot ugrott a chatbotok körében az idei évben, így egyre több aktív felhasználó várha a vállalat modelljeit. Mindezek fényében különösen nagy visszhangot keltett az az amerikai idő szerint péntek esti bejelentés, miszerint az Anthropic letiltja a hozzáférést az akkor még csak három napja bemutatott modellekhez.

A vállalat beszámolója szerint az Egyesült Államok kormányzata nemzetbiztonsági kockázatokra hivatkozva exportkontroll-direktívát küldött az Anthropicnak. Ennek értelmében arra kötelezték az Anthropicot, hogy tiltsák le a modell elérhetőségét a nem amerikai állampolgárok számára. A tiltás minden, az Egyesült Államok területén kívül és azon belül tartózkodó külföldi állampolgárt érint, beleértve az Anthropic saját, nem amerikai alkalmazottait is. Ennek fényében, a társaság közleménye szerint a jogszabályi megfelelés egyetlen módja az volt, hogy leállítják a modellek elérését globális szinten minden felhasználójuk számára, beleértve azon vállalati partnereket is, akik már integrálták a modelleket a belső eszközeikbe.

Az Amazon fedezte fel a hibát, az Anthropic viszont nem volt hajlandó leállítani a modellt

Ahogy az már egyértelműen látszott az Anthropic első közleményéből is, a vállalat korántsem tartotta elfogadhatónak a kormány indoklását. Mint azt a közleményükben írták, az amerikai kormány csupán szóbeli bizonyítékot nyújtott be egy lehetséges, korlátozott hatókörű, nem általános érvényű jailbreakről. A magyarázatuk szerint az amerikai kormány által említett jailbreak (magyarul jogosultságkiterjesztés, vagy korlátozásfeloldás), a modell azon feladatai során volt megfigyelhető, mikor egy adott kódbázisban fellelhető szoftverhibákat kell javítania. Ez a képesség a Mythos már korábban is bizonyított kiemelkedő kódolási képességeivel párosulva pedig kiberbiztonsági kockázatokat vethet fel.

Az Anthropic véleménye szerint a Fable és Mythos modellekben felfedezett potenciális megkerülési mód nem számít rendhagyónak: állításuk szerint az érintett képességszint más, konkurens modellekből is széles körben elérhető, beleértve az OpenAI legújabb modelljét, a GPT-5.5-öt.

A pénteki közleményben csak röviden, egy mondatban említette meg az Anthropic, hogy értesüléseik szerint egy külsős személy oszthatta meg a lehetséges jailbreaket az amerikai kormánnyal. A Wall Street Journal az ügyre rálátó forrásokra hivatkozva nem sokkal később arról írt, hogy az Anthropic-kal szoros üzleti kapcsolatban álló Amazon vezérigazgatója, Andy Jassy hívta fel a kormányzat figyelmét a saját kutatóik által észrevett hiányosságra.

A WSJ cikke szerint a jelzést követően az amerikai kormány szakértői feltérképezték a megkerülési mód természetét, majd egyeztettek az Anthropic vezérigazgatójával, Dario Amodei-jel is.

A Reuters vonatkozó cikke szerint David Sacks, a Fehér Ház tanácsadója és Donald Trump amerikai elnök korábbi AI-vezetője X-bejegyzésében arról írt, hogy a kormányzat azután hozta meg az exportkorlátozásról szóló döntést, miután Dario Amodei, az Anthropic vezérigazgatója megtagadta a jailbreak kijavítását, valamint a másik lehetőségként felkínált modell visszavonását. Sacks hozzátette, a kormányzat reméli, hogy az Anthropic mielőbb orvosolja a problémát, így az exportkorlátozás feloldhatóvá válik, és a Fable újra nyilvánosan elérhető lesz.

Az Amazon eddig még nem erősítette meg, hogy egyeztetett-e kormányzati tisztviselőkkel az Anthropic modelljeiről, a vállalat szóvivője pedig csupán annyit közölt, hogy vezető felhőszolgáltatóként bevett gyakorlatnak számít náluk, hogy a kormányok kikérik a tanácsukat biztonsági kérdésekben, ám az ilyen megbeszélések részleteit nem hozzák nyilvánosságra.

Egy minden eddiginél erősebb modell, a kormány szerint túl gyenge korlátokkal

De mennyire megalapozott a kormány aggálya? Mivel az amerikai kormányzat, valamint a sebezhetőséget bejelentő Amazon nem emelte ki a probléma konkrét természetét, ennek megválaszolásában az Anthropic modellekkel kapcsolatban készített nyilvános rendszerleírását, az úgynevezett system cardot hívhatjuk segítségül.

A Fable 5 és a Mythos 5 modellekhez publikált, csaknem 320 oldalas biztonsági dokumentumában a vállalat a valaha volt legerősebb, kiberfeladatok ellátására alkalmas modelljeként írja le a Mythos 5-öt. Ahogy már fentebb is említettük, a saját AI-modelljeik teljesítményét a vállalatok gyakran jellemzik „a valaha volt legjobbként”, különféle benchmarkokkal is alátámasztva, hogy az adott új LLM erősebb a konkurencia megoldásainál.

Az említett dokumentum egyik mérésében a Mythos 5-nek a Firefox böngésző sebezhetőségeit célozva kellett működő, támadó céllal felhasználható kódot létrehoznia. A modell az esetek 88,4 százalékában sikerrel járt, miközben a cég korábbi csúcsmodellje, az Opus 4.8 mindössze 8,8 százalékban tudta ezt megugrani. Ez fontos különbség: a mérés nem feltétlenül a nyilvános, védőkorlátokkal ellátott Fable 5 mindennapi viselkedését írja le, hanem a mögötte álló, Mythos-szintű modellképességet.

Ez egyúttal árnyalja az Anthropic egyik fő érvét is. A cég azzal védekezett a kormányzat exportkorlátozására reagálva, hogy az azonosított, veszélyesnek titulált képességgel más, konkurens modellek is rendelkeznek, beleértve az OpenAI GPT-5.5-öt is. Az ilyen állítások ellenőrizhetősége azonban meglehetősen bonyolult feladat, ugyanis a gyártók jellemzően nem ugyanazoknak a teszteknek vetik alá a modelljeiket. Az Anthropic dokumentumában egyetlen olyan, kiberbiztonsági képességekre irányuló mérés szerepel, amelyben a GPT-5.5 képességeivel is összevetették a Mythos 5-öt, ez azonban gyengíti az Anthropic érvelését.

Az ExploitBench az Anthropic saját tesztje, amely azt méri, milyen messzire jut el egy modell egy valódi szoftverhiba elemzésétől egy ténylegesen használható támadási lánc felépítéséig. A modellnek a Chrome böngészőmotorja, a V8 41 friss, 2024 utáni sebezhetőségével kell dolgoznia, éles biztonsági védelmekkel terhelt környezetben, a teszt pedig 16 mérhető, egyre nehezedő képességlépcsőn követi, hogy a modell pusztán összeomlást idéz-e elő, vagy már a tényleges, fegyverként újrahasználható támadáshoz szükséges eszközöket is felépíti. Ezt követően az eredményt gépi ellenőrzők pontozzák, mégpedig úgy, hogy a modell ne tudjon trükközéssel csalni a megoldásban.

Az ExploitBench mérései szerint

• a Mythos 5 10,75-ös pontszámot kapott,
• míg az Opus 4.8 5,56-ot,
• az OpenAI GPT-5.5-ös modellje pedig 4,44-et.

Tehát ezen benchmark alapján a Mythos pontszáma több mint kétszer olyan magas volt, mint a GPT-5.5-é. Ugyanakkor fontos kiemelni, hogy ez az Anthropic saját mérése, amelyet az összehasonlítás során maga a vállalat futtatott le a GPT-5.5-re is.

Az Anthropic-kal szembeni vita azonban nem kizárólag a modellek nyers képességeiről szól, hanem arról is, mennyire tartanak ki azok a védőkorlátok, amelyekkel a cég ellátta őket. A kiberbiztonság terén az AI-fejlesztőnek azt az egyensúlyt kell megtalálnia, amely mellett a modell nem veszíti el a kritikus infrastrukturális hibák feltérképezésének képességét, de közben elutasítja a támadó célú felhasználásra irányuló kéréseket.

A nyilvánosság számára a Fable 5 vált elérhetővé a múlt heti bevezetés során, amely az Anthropic szerint ugyanarra az alapmodellre épül, mint a Mythos 5, de kiegészítő szűrőkkel igyekeznek kezelni a kiber- és biológiai visszaélést célzó kéréseket. A system card viszont nyíltan leírja, hogy ezek a korlátok nem áttörhetetlenek. A modell részletes rendszerleírásában szerepel, hogy a brit AI Security Institute tesztelői néhány óra használat után azonosítottak egy egylépéses megkerülést a Fable modellben, az összetettebb, ügynöki feladatoknál azonban a jelentésük szerint nem dőltek meg a védőkorlátok.

Ugyanakkor a vállalat által indított, jutalmazott tesztelési program során mintegy 100 ezer próbálkozás sem eredményezett olyan univerzális jailbreaket, amely széles körben feloldotta volna a Fable 5 kiberbiztonsági védőkorlátait – ami az Anthropic szerint épp azt bizonyítja, hogy a kifogásolt rés szűk, és aránytalan volt érte egy széles körben kiadott modellt visszahívni.

A system card így voltaképpen az egész vitát magában hordozza: dokumentálja, hogy a két modell minden korábbinál erősebb támadóképességgel rendelkezhet, egyúttal viszont amellett érvelnek, hogy az kellően el van zárva a felhasználók elől a védőkorlátokkal. A kormány az előbbire, az Anthropic az utóbbira helyezi a hangsúlyt.

Két amerikai fejlesztésű AI-modell leállítása, ráadásul a szövetségi kormány akaratából, elsőre meredek fordulatnak tűnik. Valójában azonban az elmúlt hónapokban látványosan kiéleződött a viszony az Egyesült Államok kormányzati szervei és a kaliforniai székhelyű startup között.

Korántsem volt felhőtlen a viszony idén az amerikai kormányzat és az Anthropic között

Idén év elején még arról érkeztek hírek, hogy az amerikai hadsereg a Claude modelljeit éles katonai műveletekkel összefüggésben is használta. A WSJ információi szerint januárban, a Nicolás Maduro venezuelai elnök elfogására irányuló művelet során is igénybe vették a cég modelljeit.

Ezzel az Anthropic az egyik első olyan frontier AI-fejlesztővé vált, amelynek modelljéről nyilvánosan is ismertté vált, hogy egy éles amerikai katonai művelettel összefüggésben használták. Mindössze néhány nappal később azonban éles fordulatot vett a vállalat és az amerikai kormányzat viszonya.

Februárban a Pentagon már közel állt ahhoz, hogy felbontson egy akár 200 millió dollár értékű szerződést a vállalattal, ezen túl pedig ellátásilánc-kockázatnak minősítse a céget. Ez példa nélküli lépés lett volna egy amerikai vállalattal szemben, és azután került napirendre, hogy az Anthropic és a Pentagon hónapokig tárgyalt a Claude felhasználási feltételeiről. Az amerikai védelmi tárca és az Anthropic heteken át vitázott arról, hogyan használhatja a minisztérium a cég AI-modelljeit. Pete Hegseth amerikai védelmi miniszter nemzetbiztonsági és ellátásilánc-kockázatnak minősítette az Anthropicot, Donald Trump pedig elrendelte, hogy minden szövetségi szerv azonnal szüntesse meg a vállalat modelljeinek használatát.

Az ügyet követően az Anthropic pert indított a Pentagon ellen, és alig több, mint egy hónappal később egy szövetségi bíró nekik adott igazat, a bírósági pedig akkor ideiglenesen blokkolta, hogy a Pentagon ellátási lánci kockázatként kezelje a vállalatot. A döntés nyomán a kormánynak ideiglenesen vissza kellett lépnie a vállalattal szembenni korlátozó intézkedések alkalmazásától.

A Trump-kormányzat AI-hoz való hozzáállása azonban nemcsak az Anthropickal való konfliktus miatt figyelemre méltó. Donald Trump második elnöki ciklusának elején sokan arra számítottak, hogy a Fehér Ház lazábban kezeli majd az AI-szabályozás kérdését. Trump elnök beiktatását követően első intézkedései között vonta vissza Joe Biden 2023-as, a mesterséges intelligencia biztonságos fejlesztéséről szóló rendeletét, amelyről a republikánus párt úgy vélte, hogy akadályozza az innovációt és csorbítja a szólásszabadságot is.

Június elejére azonban úgy tűnt, a Fehér Ház részben újragondolta a korábbi, AI-vállalatoknak nagyobb mozgásteret adó irányt. A hónap elején – a források szerint hosszú belső egyeztetéseket követően – Trump aláírt egy elnöki rendeletet, amelynek értelmében a technológiai vállalatok önkéntes alapon, a nyilvánosságra hozatal előtt harminc nappal átadhatják új AI-modelljeiket a kormányzatnak felülvizsgálatra. Fontos ugyanakkor, hogy ez nem ugyanaz a jogi eszköz, amelyre a Fable 5 és a Mythos 5 leállításánál hivatkozott a kormány. A június eleji rendelet önkéntes előzetes felülvizsgálati keretet hozott létre, míg a mostani ügyben exportkontroll-direktíváról van szó. Minden előzményt összevetve a kép egészen komplexnek tűnik. Az amerikai kormány nemcsak szabályozóként jelent meg az Anthropic körül, hanem felhasználóként is. A korábbi szembenállások ellenére a Fable 5 és a Mythos 5 leállítását formálisan a fentebb részletezett biztonsági kockázatokkal indokolták.

Hasonló döntésekkel Washington Európának is csúnyán keresztbe tehet

Fontos végezetül arra is kitérni, hogy a Fable és a Mythos leállítása nem pusztán amerikai belügy. A kormányzati direktíva a nem amerikai állampolgárok hozzáférését függesztette fel, így közvetlenül érintette az európai – köztük a magyar – felhasználókat és vállalatokat is, függetlenül attól, hol használták a modellt. A tágabb tanulság pedig túlmutat a konkrét ügyön: egy amerikai fejlesztésű, élvonalbeli AI-modellhez való hozzáférés egyetlen washingtoni döntéssel leállhat, akár az európai cégek számára is.

Egyenértékű alternatívát találni azonban nem egyszerű, ugyanis Európának egyelőre nincs széles körben elérhető, a Mythoshoz vagy a Fable-höz hasonló kiberbiztonsági képességprofilú saját frontier modellje. Ennek ellenére a vállalatok egyre nagyobb arányban használnak AI-vezérelt alkalmazásokat, amelyek jelentős része amerikai fejlesztésű modelleken alapul. A Fable ugyan csak három napig volt nyilvánosan elérhető, mielőtt leállították, így nem valószínű, hogy sok vállalat kulcsfontosságú folyamatokba integrálta volna. Ha azonban egy régebb óta elérhető, mélyebben beágyazott modell válna egyik napról a másikra elérhetetlenné, az már komoly működési problémákat okozhatna.

Európa AI-fejlesztésben érzékelhető lemaradása és technológiai függése az Egyesült Államoktól eddig is ismert volt, a Fable sztorija azonban kézzelfoghatóvá tette ezt a kockázatot. Az ügy azt mutatja, hogy az amerikai kormány egy célzott direktívával a gyakorlatban globális leállást is kikényszeríthet, még a legnagyobb fejlesztők esetében is. Innentől a vállalatok számára a modellválasztás nemcsak technológiai, hanem ellátásbiztonsági döntéssé is válhat.

Tovább a cikkre: portfolio.hu (Pruzsinszki Bence)