Azonnali hatállyal exporttilalmi intézkedéseket léptetett életbe az Egyesült Államok az Anthropic két legfejlettebb AI-modelljével, a Fable 5-tel és a Mythos 5-tel szemben. A cég válaszul minden felhasználója számára elérhetetlenné tette a múlt héten bemutatott modelleket.
Újabb fronton feszült egymásnak a fű alatt tőzsdére készülő Anthropic és az Egyesült Államok kormánya. Az amerikai kormányzat pénteken azonnali exporttilalmi intézkedéseket léptetett életbe az AI-startup két legfejlettebb mesterségesintelligencia-modelljére, a Fable 5-re és a Mythos 5-re, melyre válaszul a cég globálisan megszüntette a modellek elérhetőségét.
Három nap alatt lépett a kormány
A két ominózus modellt alig három nappal a kormányzati tiltás előtt mutatták be, nagyjából két hónappal azután, hogy megjelent a minden idők egyik „legveszélyesebbnek” tartott modelljének, a Mythosnak az előnézeti kiadása a Project Glasswing biztonsági program keretében.
Múlt héten az Anthropic bejelentette a Mythos Preview után érkező Claude Mythos 5 privát elérhetőségét a Glasswing partnerek számára, valamint a Fable 5 modellt, amit a Mythos „biztonságossá tett” változataként aposztrofált.
A frissen bemutatott Claude Fable 5 ugyanarra az alaptechnológiára épül, mint a Mythos, de speciális védelmi rétegek figyelik a felhasználói kéréseket. Az Anthropic szerint maga a modell nem lett gyengébb teljesítményben, de sikerült olyan biztonsági mechanizmusokat beépíteni, melyekkel nagyobb hatékonysággal akadályozhatók meg a visszaélések. Ha a rendszer például kiberfegyverekre, sérülékenységek kihasználására, biológiai vagy vegyi veszélyekre vonatkozó lekérdéseket/utasításokat érzékel, automatikusan a korlátozottabb képességű Opus 4.8 modellnek irányítja át a feladatot.
Az Anthropic a Mythos megjelenését követően maga hívta fel a figyelmet a rendszer veszélyeire. A vállalat akkori kommunikációja szerint a Mythos olyan jelentős fenyegetést jelenthet a digitális infrastruktúrákra, hogy nyilvános kiadása nem is jöhet szóba – ehhez képest alig néhány hónappal később már egy széles körben elérhető változatot kínált belőle a cég.
A kritikusok múlt hét közepén még úgy vélték, hogy a társaság korábban túlzott a kockázatokat illetően, de rosszabb esetben a bevezetett és frissen bejelentett biztonsági garanciák túl optimisták.
Az USA kormányának pénteki döntése inkább az utóbbi forgatókönyvet erősíti, ráadásul a kormányzat az Anthropicnak „szóban” vázolta is, hogy a Fable 5 biztonsági korlátait máris sikerült feltörnie egy független csapatnak. Erre válaszul született meg azonnal az exporttilalmi intézkedés, mely minden külföldi felhasználót érint, beleértve azokat is, akik az Egyesült Államok területén tartózkodnak.
Az Anthropic pedig erre hivatkozva állította le teljesen a két modell hozzáférhetőségét, mivel a cég szerint a rendelkezésére álló eszközökkel nem lehet minden kétséget kizáróan szűrni a felhasználók állampolgárságát.
Az ügyben kiadott közleményben a startup egyben leszögezi, hogy vélhetően valamilyen félreértésről lehet csupán szó a kormányzat részéről, a cég illetékesei pedig már Washingtonban vannak, hogy egyeztetést folytassanak a modellek mielőbbi újraindításáról.
Az Anthropicnak nem ez az első kellemetlen afférja az Egyesült Államok kormányával. Az OpenAI-ból kiugrott felsővezetők által alapított vállalatot március elején a nemzetbiztonsági kockázatot jelentő entitások közé sorolta a Pentagon, amiért a cég nem járult hozzá ahhoz, hogy modelljeit a hadsereg korlátozások nélkül használhassa hadműveleti célokra is.
Tovább a cikkre: hwsw.hu (Koi Tamás)
