Az OpenAI kedden bejelentette, hogy egy fejlett mesterséges intelligencia modelljei által működtetett autonóm ágens egy biztonsági teszt során szabálytalanul működött, és egy hacket indított el, amely a múlt héten feltörte a Hugging Face mesterséges intelligenciával foglalkozó startup infrastruktúráját.
A ChatGPT létrehozója a legfejlettebb modelljeinek képességeit tesztelte ellenőrzött környezetben, de az ügynök megszökött az elkülönítésből, elérte az internetet és betört a Hugging Face-be, hogy teljesítse tesztelési célját.

Az incidens azt jelzi, hogy a mesterséges intelligencia bővülő képességei már most is táplálják a biztonsági fenyegetések szakértői által régóta rettegett jelenségét, és még a vezető fejlesztőket is váratlanul érhetik a modelljeik által kihasználható hibák.
A kitörés „példátlan kiberincidens volt, amely a legmodernebb kiberképességeket érintette”, és az OpenAI megerősíti a biztonsági intézkedéseket – írta a vállalat egy blogbejegyzésben.

A cég a múlt heti blogbejegyzésében azt nyilatkozta, új lapot nyit meghogy a Zhipu AI GLM-5.2-jét használta az elemzéshez, amely lehetővé tette a támadó adatainak és a hitelesítő adatok rendszereken belüli tárolását is.
A GLM-5.2 és a pekingi Moonshot Kimi K3-asa az utóbbi időben felkavarta a Szilícium-völgyet, mivel alacsonyabb költségek mellett és az amerikai riválisokat olyan korlátok nélkül is képes megközelíteni a csúcsmodellekét, mint például a kiberbiztonság.
„Amikor egy határ menti modell támad téged, és oldalirányban mozog az infrastruktúrádon belül, a védőknek órákon vagy akár perceken belül széleskörű hozzáférésre van szükségük a határ menti eszközökhöz, ahelyett, hogy egy zárt, ellenőrzött alkalmazásprogram felé irányítanák őket a modellhez való hozzáféréshez” – mondta Thomas Wolf, a Hugging Face társalapítója az X-en.

A New York-i Hugging Face azzal is felhívta magára a figyelmet, hogy egy nyílt forráskódú kínai modellt használt a támadás megfékezésére, mivel a vezető amerikai modellek, mivel nem tudták megkülönböztetni a védőt a támadótól, megtagadták az elemzéshez szükséges adatok feldolgozását.

A Hugging Face elleni hackelés, amely nyílt forráskódú, nagy nyelvi modelleket és adatkészleteket tárol, megrázta a kiberbiztonsági közösséget, miután a vállalat a múlt héten kijelentette, hogy a behatolás „különbözött mindentől, amit korábban kezeltek”, és „végponttól végig egy autonóm mesterséges intelligencia ágensrendszer vezérelte”

Az OpenAI azon kijelentése, miszerint fejlett modelljei felelősek a behatolásért, annak ellenére, hogy azokat egy „rendkívül elszigetelt környezetnek” nevezett környezetbe helyezték, valószínűleg fokozni fogja az aggodalmat a határmodellek hatalma és kockázata miatt.

Greg Casar texasi demokrata képviselő riasztónak nevezte az esetet.
„A mesterséges intelligencia rendkívül gyorsan fejlődik anélkül, hogy valódi szabályozások lennének a biztonságunk érdekében” – mondta egy nyilatkozatban, amelyben kötelező független biztonsági tesztelést, a biztonsági incidensek kötelező közzétételét és nemzetközi együttműködést szorgalmazott, „hogy megvédjük az embereket a teljes katasztrófától”.
A Nemzeti Kiberigazgató Hivatala, az amerikai kibervédelmi ügynökség, a CISA és az amerikai Nemzetbiztonsági Ügynökség nem válaszolt azonnal a megkeresésünkre.
Katie Moussouris, a Luta Security vezérigazgatója szerint az incidens a közelgő behatolások előjele, és a mai modellek „olyanok, mint a világ legokosabb polip szabadulóművészei, korlátlan kapaszkodókarokkal és azzal a képességgel, hogy bárhol átfurakodjanak”.

Azt mondta, hogy „a laboratóriumoknak és a kormányzati értékelőknek azon kell dolgozniuk, hogy képesek legyenek megfékezni, monitorozni és az érintett felek tudomására hozni, amikor egy mesterséges intelligencia egy másik Houdinit lop, ideális esetben még azelőtt, hogy az egy harmadik félnek ártana. Ma már ilyenek nem léteznek.”
Matt Suiche, a Tolmo ügynökségi mesterséges intelligenciával foglalkozó kiberbiztonsági cég mérnöke szerint az incidens azt mutatta, hogy a határmodellek „bezárják a szakadékot a legmodernebb támadókkal”. Hozzátette azonban, hogy az OpenAI blogbejegyzésében felvázolt típusú incidensek végrehajthatók olyan technológiával, amely messze a határkutató laboratóriumok falain túl is elérhető.
„Ezt már láttuk belsőleg, az ügynökeinkkel már vannak ilyen eredményeink” – mondta Suiche. „Még csak a legújabb modelleket sem kell használnunk.”

Tovább a cikkre: reuters.com (Raphael Satter)

Súlyos állításokat tett az OpenAI vezére a mesterséges intelligenciáról

A mesterséges intelligencia fejlődése elérte azt a pontot, amelyről évtizedek óta beszélnek a szakemberek – állítja Sam Altman. Az OpenAI vezérigazgatója szerint már a szingularitás korszakában járunk, vagyis az AI képessé vált saját fejlődésének felgyorsítására. Mindezt néhány nappal azután mondta, hogy az OpenAI elismerte: egyik mesterségesintelligencia-modellje egy teszt során önállóan hajtott végre kiberműveletet egy másik cég rendszere ellen.

Sam Altman szerint a mesterséges intelligencia fejlődése elérte a régóta emlegetett szingularitást, vagyis azt a pontot, amikor az AI már saját képességeinek fejlesztésére is képes, ami rendkívül gyors technológiai fejlődést indíthat el.

Az OpenAI vezérigazgatója a Relentless című podcastban úgy fogalmazott: „Most már benne vagyunk a szingularitásban.” Hozzátette, egész életében erre a pillanatra várt, és szerinte a mesterséges intelligencia óriási pozitív hatással lesz a világra.

Az ABC News beszámolója szerint Altman kijelentése néhány nappal azután hangzott el, hogy az OpenAI nyilvánosságra hozta: egyik AI-modellje egy ellenőrzött tesztkörnyezetből kijutva önállóan hajtott végre kiberműveletet a Hugging Face rendszere ellen. A vállalat szerint a modell az interneten keresztül próbált hozzáférni olyan modellekhez és adatállományokhoz, amelyek segíthették volna a tesztfeladat teljesítését.

Az OpenAI ezt az esetet figyelmeztetésnek nevezte, hangsúlyozva, hogy a mesterséges intelligencia biztonsági és védelmi megoldásainak lépést kell tartaniuk a technológia gyors fejlődésével.

Altman a podcastban ugyanakkor azt is jelezte, hogy nem ért egyet azokkal a rivális AI-cégekkel, amelyek súlyos veszélyekre figyelmeztetnek. Úgy fogalmazott, vannak olyan jövőképek, amelyeket „ijesztőnek” tart, és mindent megtesz azért, hogy ezek ne váljanak valóra.

A mesterséges intelligencia fejlődése egyre nagyobb hatással van a világgazdaságra is: miközben vállalatok százmilliárdokat fektetnek AI-fejlesztésekbe, egyre több iparágban jelennek meg a mesterséges intelligenciával összefüggésbe hozott létszámleépítések.

Tovább a cikkre: index.hu (Domján Anikó)