Az Anthropic hatékonynak, de ugyanakkor veszélyesnek tartott szűk körben elérhető eszközéhez olyan is hozzáférhetett, akinek nem szabadna. A cég már vizsgálja az ügyet.
Egy szűk felhasználói csoport férhetett hozzá jogosulatlanul az Anthropic nemrég bejelentett Mythos Preview AI-modelljéhez, mely a cég kommunikációja szerint annyira erőteljes, hogy rossz kezekbe kerülve beláthatatlan következményekkel járhat a használata.

A Bloomberg ügyhöz közeli forrásokra és dokumentumokra alapozott beszámolója alapján egy „privát online fórum” tagjai külsős vendor környezeten keresztül szerezhettek hozzáférést a Claude Mythos Preview-hoz, az Anthropic már vizsgálja az ügyet. A vállalat közleménye szerint egyelőre nincsenek bizonyítékok arra, hogy a feltételezett jogosulatlan tevékenység bármilyen módon hatással lett volna az Anthropic rendszerére.

A csoport különböző stratégiákat vetett be a modellhez való hozzáférés megszerzéséhez, többek közt social engineering módszereket a Bloomberg által megszólaltatott egyik külsős vállalkozó alkalmazottjánál. Azóta a Mythost rendszeresen használhatják, amit a lap birtokába került bizonyító erejű képernyőképek és a szoftver élő bemutatója is megerősít.

Amennyiben igaznak bizonyulnak a jelentések, rendkívül kellemetlen helyzetet idéz elő az Anthropic számára. A hivatalosan nem kiadott modell képességeit egy rendkívül szűk csoport kezdhette el tesztelni a Project Glasswing biztonsági programban, melynek keretében 11 vezető partner kap korai korlátozott hozzáférést saját védelme megerősítéséhez, köztük az AWS, az Apple, a Google, az Nvidia, a CrowdStrike valamint további 40, főleg kritikus szoftvereken dolgozó kiválasztott szervezet.

A napokban került napvilágra az a hír is, hogy az Axios ügyhöz közelálló forrásai szerint az Amerikai Nemzetbiztonsági Ügynökség (NSA) egyike lehet a kiválasztott több tucat szervezetnek, amelyeknek az Anthropic hozzáférést biztosított, és egy másik forrás szerint egyre szélesebb körben használják a minisztériumon belül is a megoldást. Az NSA annak ellenére használhatja az Anthropic egyik fejlett modelljét, hogy a védelmi minisztérium tiltólistára helyezte a céget. Elméletben a besorolás kizárná a céget minden hivatalos védelmi együttműködésből, különösen ha érzékeny rendszerekről van szó. Ennek ellenére az NSA informális csatornákon keresztül továbbra is a kockázatnak minősített fejlesztő eszközéhez nyúlhat, ami arra utal, hogy a gyakorlati igények felülírják a formális szabályozási kereteket.

A korábban megosztott eredmények alapján a Mythos előnézeti modell önjáróan derített fel több ezer nulladik napi sebezhetőséget a meghatározó operációs rendszerekben és böngészőkben, köztük kritikusnak minősített sérülékenységeket. A legrégebb óta, kb. 27 éve rejtőzködő sérülékenységet az OpenBSD-ben sikerült detektálni, valamint egy 16 éve meghúzódó hibára derült fény az Ffmpeg videószoftverben is.

A modell a felderítésen túl sok esetben exploitokat is fejlesztett a sérülékenységekhez, ami különösen akkor lehet veszélyes, ha rossz kezekbe kerül az eszköz. A Claude Opus 4.6 esetében az Anthropic még úgy nyilatkozott hogy nem igazán használható a műkdő sérülékenységet kihasználó kódok fejlesztéséhez, ezzel ellenben a Mythos képes az esetek 72,4 százalékában működő sérülékenységet kihasználó kódot generálni.

Tovább a cikkre: hwsw.hu (Dömös Zsuzsanna)

Csak óvatosan meri útjára indítani új modelljét az Anthropic

Az Anthropic állítása szerint létrehozta eddigi „legveszélyesebb” AI-modelljét, melyet csak pár kiválasztott partner tesztelhet előnézeti kiadásban.
Az infosec közösség legnagyobb egzisztenciális aggodalma évekig az volt, hogy a kvantumszámítógépek feltörik az összes klasszikus titkosítási módszert, de ez most változóban: a következő nagy fenyegetésnek egy olyan AI-modell tűnik, mely nem csak felderíti a nulladik napi sebezhetőségeket, de akár ki is használja azokat. Az Anthropic legújabb úttörő AI-modellje, a „Mythos” ezúttal nem a hagyományos módon mutatkozik be, mivel a cég kommunikációja szerint egy annyira erőteljes eszközről van szó, ami rossz kezekbe kerülve beláthatatlan következményekkel járhat. A hivatalosan nem kiadott modell képességeit egy rendkívül szűk csoport kezdheti el tesztelni a Project Glasswing biztonsági programban, melynek keretében 11 vezető partner kap korai korlátozott hozzáférést saját védelme megerősítéséhez, köztük az AWS, az Apple, a Google, az Nvidia, a CrowdStrike valamint további 40, főleg kritikus szoftvereken dolgozó kiválasztott szervezet.

Az Antropic ennek érdekében 100 millió dollárnyi kreditet különített el, ezen felül pedig 4 millió dollárt adományozott biztonsági csoportoknak, köztük az Apache Software Foundationnek. Az előnézeti időszak lejártával a Mythos használata egymillió bemeneti tokenenként 25 dollárba, millió kimeneti tokenenként pedig 125 dollárba fog kerülni, ami majdnem ötszöröse a jelenlegi csúcsmodell árának. Az árazás már magában azt tükrözi, hogy az Anthropic nem egyszerű kutatási projektjént kezeli a Mythost, a magas felárazással professzionális termékként pozicionálja azt a legnagyobb szervezetek számára.

A részletezett eredmények alapján a Mythos előnézeti modell önjáróan derített fel több ezer nulladik napi sebezhetőséget a meghatározó operációs rendszerekben és böngészőkben, köztük kritikusnak minősített sérülékenységeket. A legrégebb óta, kb. 27 éve rejtőzködő sérülékenységet az OpenBSD-ben sikerült detektálni, valamint egy 16 éve meghúzódó hibára derült fény az Ffmpeg videószoftverben is.

A bejelentés kiemeli, hogy a Linux kernelben található sebezhetőségeket sikerült összefűzni az adott eszköz feletti teljes kontroll átvétele érdekében. A sebezhetőségek láncolásával a modell képes több, külön-külön egyébként értelmetlennek tűnő sérülékenységet összefüggésbe hozni annak megállapítására, hogy azok együtt akár egy kifinomultabb exploitra adhatnak-e lehetőséget.

A Mythos a felderítésen túl sok esetben exploitokat is fejlesztett a sérülékenységekhez, ami különösen akkor lehet veszélyes, ha rossz kezekbe kerül az eszköz. A Claude Opus 4.6 esetében az Anthropic még úgy nyilatkozott hogy nem igazán használható a működő sérülékenységet kihasználó kódok fejlesztéséhez, ezzel ellenben a Mythos képes az esetek 72,4 százalékában működő sérülékenységet kihasználó kódot generálni.

Az 1507 valós biztonsági hibára épített CyberGym teszten a Mythos előnézeti modell 83,1%-os eredményt ért el, míg az SWE-bench Verified teszten közel 94%-on teljesített. A benchmark nehezebb Pro szintjén pedig több mint 20 ponttal sikerült felülmúlni a korábbi modelleket, ami valódi előrelépést mutat. Mindezen eredményekre támaszkodva az Anthropic maga is úgy véli, hogy a modell rossz kezekbe kerülve veszélyes is lehet, ezért nem tervezi, hogy a közeljövőben általánosan hozzáférhető legyen a termék. A „modellünk túl veszélyes ahhoz, hogy nyilvánossá tegyük” narratíva egyben nagyszerű módja annak, hogy a cég hype-ot generáljon, de ebben az esetben több szakértő is úgy gondolja, hogy indokolt az óvatos megközelítés.

Az AI-fejlesztő bejelentésével kapcsolatban nehéz teljesen szétszálazni, mi az, ami kifejezetten a PR-ra ráerősítő kommunikációs túlzás, a fő partnerek legitimitása mindenesetre bizalmat előlegez. A Microsoft globális információbiztonsági vezetője, Igor Tsyganskiy szerint a Project Glasswinghez való csatlakozással a redmondi vállalat hatékonyabban azonosíthatja a termékeibe megbújó biztonsági kockázatokat, és bővítheti biztonsági és fejlesztési megoldásait. A Cisco alelnöke és biztonsági vezetője, Anthony Grieco szerint a technológiai szolgáltatók már nem tudják a hagyományos módszerekkel kellően megerősíteni rendszereiket, szinte törvényszerű, hogy a képbe kerül az AI is. Alex Stamos, a Corridor kiberbiztonsági cég termékigazgatója szintén úgy véli, hogy a Glasswing meghatározó lépcsőfok lesz a biztonság területén.

Az Anthropic láthatóan próbál lavírozni a biztonság és a saját piaci pozíciója erősítése közt. Azzal, hogy a korai partnerek hozzáférnek egy hatékony modellhez, cserébe pedig az Anthropic láthatja, hogyan működnek ezek az eszközök a tényleges biztonsági műveletekben, mindegyik fél számára előnyös. Befektetői szempontból nézve a jövőben azok a cégek profitálhatnak, melyek nem csak a hibák megtalálását, de a javítást is lehetővé teszik, és ténylegesen ellenőrzött javításokat tudnak kínálni a végpontokra, felhőre és identitáskezelésre összpontosító vállalatok számára.

Tovább a cikkre: hwsw.hu (Dömös Zsuzsanna)

Mennyire veszélyes a Mythos, az Anthropic új mesterséges intelligencia modellje?

Dario Amodei figyelmeztetéseit nem szabad figyelmen kívül hagyni.

Amikor 2019-ben az Open AI befejezte egy új, nagyméretű nyelvi modell, a GPT -2 betanítását , a mesterséges intelligencia laboratórium kezdetben túl veszélyesnek nyilvánította a modellt a kiadáshoz. Dario Amodei, az Open AI akkori kutatási igazgatója ragaszkodott ahhoz, hogy a világnak időre van szüksége a felkészüléshez.

Végül még abban az évben kiadták. Azóta egy sor sokkal erősebb modellt fejlesztettek ki anélkül, hogy elszabadult volna az Armageddon. Hét évvel később azonban Mr. Amodei, aki most az Open AI keserű riválisának, az Anthropicnak a vezetője, ismét aggódik. Április 7-én kijelentette, hogy laboratóriumának Claude modellcsaládjának legújabb tagja, a „Mythos” túl erős ahhoz, hogy széles körben elérhetővé váljon. Ezúttal talán igaza van.

Az Anthropic szerint a Mythos képességei „lényegesen meghaladják az általunk korábban betanított modellekét”. A laboratórium szerint különösen aggasztó számukra a rendszer azon képessége, hogy szoftveres sebezhetőségeket találjon, és azokat vagy kijavítsa (ha védekezőként működik), vagy kihasználja (ha hackerként viselkedik).

Az ilyen állításokat általában fenntartásokkal kell kezelni. Az Anthropic megépítette a modellt, lefuttatta a teszteket – és most profitálhat abból a felfogásból, hogy rendszere sokkal zseniálisabb, mint bármi, ami előtte jött. A laboratórium az utóbbi időben szárnyal. Április 6-án bejelentették, hogy évesített bevételük elérte a 30 milliárd dollárt, szemben a tavalyi év végi mindössze 9 milliárd dollárral. Biztosan szeretné fenntartani a lendületét.

Vannak azonban okok arra, hogy komolyan vegyük az Anthropic legújabb figyelmeztetéseit. Az első a súlyosságuk: az Anthropic szerint a Mythos már súlyos sebezhetőségeket talált „minden nagyobb operációs rendszerben és webböngészőben”, köztük egyet, amely 27 évig észrevétlen maradt.

A második a többi vállalat reakciója. A szünet mellett az Anthropic bejelentette a Project Glasswinget, amelynek célja, hogy segítsen a vállalatoknak a Mythos használatát használni a kibervédelem fokozására, mielőtt az széles körben megjelenne. A vezető szoftverfejlesztők – köztük az Apple, a Linux Foundation és a CrowdStrike, valamint a Google, amely közvetlenül versenyez az Anthropic-kal a mesterséges intelligencia területén – részvétele arra utal, hogy a fenyegetés hihető.

Amodei úr megközelítése a veszély enyhítésére ésszerű. Ha előnyhöz jutnak a vállalatok, a Mythos segítségével tesztelhetik a még kiadatlan kód gyengeségeit, és a kiadás előtt kijavíthatják azokat. Ennek ellenére az Anthropicnak sok nyernivalója van a Project Glasswingből. A laboratórium fedezi a modell kezdeményezéshez való használatából eredő első 100 millió dollárt. Végül azonban a résztvevőknek ötször annyit kell majd fizetniük a Mythos használatáért, mint elődjéért, az Opusért.

Ez egy megfizethető ár lehet. Az Anthropic riválisai előbb-utóbb biztosan hasonló hackelési képességekkel rendelkező modelleket fognak kifejleszteni. Más határterületi laboratóriumoknak, mint például az Open AI és a Google, megvannak a saját, értelmes kiadási szabályzataik. De a nyílt forráskódú laboratóriumok, különösen a Kínában működők, kevésbé összpontosítanak a biztonságra.

Nem csak a hackereket zavarhatja a Glasswing Projekt. Az amerikai kormány régóta igyekszik kihasználni az ellenfelek kibervédelmének gyengeségeit. Ez azt jelenti, hogy fel nem fedezett sebezhetőségeket halmoz fel, beleértve a külföldön használt amerikai szoftverekben találhatókat is, hogy azokat akkor használják fel, amikor ezek a „nulladik napi” biztonsági rések a legnagyobb hatással lesznek. Ha a Glasswing Projekt beválik, hatástalaníthatja Amerika számos kiberfegyverét.

Ez biztosan feldühítené Pete Hegseth-et, Amerika védelmi miniszterét, aki az év elején ellátási lánc kockázatának minősítette az Anthropicot, miután összetűzésbe keveredett a Pentagonnal a laboratóriumi modellek katonai célokra való felhasználásának korlátozása miatt (egy bíró azóta ideiglenesen blokkolta az „orwelli” megjelölést). Amodei úr továbbra is tüske lehet a szemében.

Tovább a cikkre: economist.com