Az OpenAI kedden bejelentette, hogy egy fejlett mesters\u00e9ges intelligencia modelljei \u00e1ltal m\u0171k\u00f6dtetett auton\u00f3m \u00e1gens egy biztons\u00e1gi teszt sor\u00e1n szab\u00e1lytalanul m\u0171k\u00f6d\u00f6tt, \u00e9s egy hacket ind\u00edtott el, amely a m\u00falt h\u00e9ten felt\u00f6rte a Hugging Face mesters\u00e9ges intelligenci\u00e1val foglalkoz\u00f3 startup infrastrukt\u00far\u00e1j\u00e1t.
A ChatGPT l\u00e9trehoz\u00f3ja a legfejlettebb modelljeinek k\u00e9pess\u00e9geit tesztelte ellen\u0151rz\u00f6tt k\u00f6rnyezetben, de az \u00fcgyn\u00f6k megsz\u00f6k\u00f6tt az elk\u00fcl\u00f6n\u00edt\u00e9sb\u0151l, el\u00e9rte az internetet \u00e9s bet\u00f6rt a Hugging Face-be, hogy teljes\u00edtse tesztel\u00e9si c\u00e9lj\u00e1t.<\/p>\n\n\n\n
Az incidens azt jelzi, hogy a mesters\u00e9ges intelligencia b\u0151v\u00fcl\u0151 k\u00e9pess\u00e9gei m\u00e1r most is t\u00e1pl\u00e1lj\u00e1k a biztons\u00e1gi fenyeget\u00e9sek szak\u00e9rt\u0151i \u00e1ltal r\u00e9g\u00f3ta rettegett jelens\u00e9g\u00e9t, \u00e9s m\u00e9g a vezet\u0151 fejleszt\u0151ket is v\u00e1ratlanul \u00e9rhetik a modelljeik \u00e1ltal kihaszn\u00e1lhat\u00f3 hib\u00e1k. A c\u00e9g a m\u00falt heti blogbejegyz\u00e9s\u00e9ben azt nyilatkozta<\/a>, \u00faj lapot nyit meghogy a Zhipu AI GLM-5.2-j\u00e9t haszn\u00e1lta az elemz\u00e9shez, amely lehet\u0151v\u00e9 tette a t\u00e1mad\u00f3 adatainak \u00e9s a hiteles\u00edt\u0151 adatok rendszereken bel\u00fcli t\u00e1rol\u00e1s\u00e1t is. A New York-i Hugging Face azzal is felh\u00edvta mag\u00e1ra a figyelmet, hogy egy ny\u00edlt forr\u00e1sk\u00f3d\u00fa k\u00ednai modellt haszn\u00e1lt a t\u00e1mad\u00e1s megf\u00e9kez\u00e9s\u00e9re, mivel a vezet\u0151 amerikai modellek, mivel nem tudt\u00e1k megk\u00fcl\u00f6nb\u00f6ztetni a v\u00e9d\u0151t a t\u00e1mad\u00f3t\u00f3l, megtagadt\u00e1k az elemz\u00e9shez sz\u00fcks\u00e9ges adatok feldolgoz\u00e1s\u00e1t.<\/p>\n\n\n\n A Hugging Face elleni hackel\u00e9s, amely ny\u00edlt forr\u00e1sk\u00f3d\u00fa, nagy nyelvi modelleket \u00e9s adatk\u00e9szleteket t\u00e1rol, megr\u00e1zta a kiberbiztons\u00e1gi k\u00f6z\u00f6ss\u00e9get, miut\u00e1n a v\u00e1llalat a m\u00falt h\u00e9ten kijelentette, hogy a behatol\u00e1s \u201ek\u00fcl\u00f6nb\u00f6z\u00f6tt mindent\u0151l, amit kor\u00e1bban kezeltek\u201d, \u00e9s \u201ev\u00e9gpontt\u00f3l v\u00e9gig egy auton\u00f3m mesters\u00e9ges intelligencia \u00e1gensrendszer vez\u00e9relte\u201d<\/p>\n\n\n\n Az OpenAI azon kijelent\u00e9se, miszerint fejlett modelljei felel\u0151sek a behatol\u00e1s\u00e9rt, annak ellen\u00e9re, hogy azokat egy \u201erendk\u00edv\u00fcl elszigetelt k\u00f6rnyezetnek\u201d nevezett k\u00f6rnyezetbe helyezt\u00e9k, val\u00f3sz\u00edn\u0171leg fokozni fogja az aggodalmat a hat\u00e1rmodellek hatalma \u00e9s kock\u00e1zata miatt.<\/p>\n\n\n\n Greg Casar texasi demokrata k\u00e9pvisel\u0151 riaszt\u00f3nak nevezte az esetet. Azt mondta, hogy \u201ea laborat\u00f3riumoknak \u00e9s a korm\u00e1nyzati \u00e9rt\u00e9kel\u0151knek azon kell dolgozniuk, hogy k\u00e9pesek legyenek megf\u00e9kezni, monitorozni \u00e9s az \u00e9rintett felek tudom\u00e1s\u00e1ra hozni, amikor egy mesters\u00e9ges intelligencia egy m\u00e1sik Houdinit lop, ide\u00e1lis esetben m\u00e9g azel\u0151tt, hogy az egy harmadik f\u00e9lnek \u00e1rtana. Ma m\u00e1r ilyenek nem l\u00e9teznek.\u201d
A kit\u00f6r\u00e9s \u201ep\u00e9ld\u00e1tlan kiberincidens volt, amely a legmodernebb kiberk\u00e9pess\u00e9geket \u00e9rintette\u201d, \u00e9s az OpenAI meger\u0151s\u00edti a biztons\u00e1gi int\u00e9zked\u00e9seket \u2013 \u00edrta a v\u00e1llalat egy blogbejegyz\u00e9sben<\/a>.<\/p>\n\n\n\n
A GLM-5.2<\/a> \u00e9s a pekingi Moonshot Kimi K3<\/a>-asa az ut\u00f3bbi id\u0151ben felkavarta a Szil\u00edcium-v\u00f6lgyet, mivel alacsonyabb k\u00f6lts\u00e9gek mellett \u00e9s az amerikai riv\u00e1lisokat olyan korl\u00e1tok n\u00e9lk\u00fcl is k\u00e9pes megk\u00f6zel\u00edteni a cs\u00facsmodellek\u00e9t, mint p\u00e9ld\u00e1ul a kiberbiztons\u00e1g.
\u201eAmikor egy hat\u00e1r menti modell t\u00e1mad t\u00e9ged, \u00e9s oldalir\u00e1nyban mozog az infrastrukt\u00far\u00e1don bel\u00fcl, a v\u00e9d\u0151knek \u00f3r\u00e1kon vagy ak\u00e1r perceken bel\u00fcl sz\u00e9lesk\u00f6r\u0171 hozz\u00e1f\u00e9r\u00e9sre van sz\u00fcks\u00e9g\u00fck a hat\u00e1r menti eszk\u00f6z\u00f6kh\u00f6z, ahelyett, hogy egy z\u00e1rt, ellen\u0151rz\u00f6tt alkalmaz\u00e1sprogram fel\u00e9 ir\u00e1ny\u00edtan\u00e1k \u0151ket a modellhez val\u00f3 hozz\u00e1f\u00e9r\u00e9shez\u201d \u2013 mondta Thomas Wolf, a Hugging Face t\u00e1rsalap\u00edt\u00f3ja az X-en.<\/p>\n\n\n\n
\u201eA mesters\u00e9ges intelligencia rendk\u00edv\u00fcl gyorsan fejl\u0151dik an\u00e9lk\u00fcl, hogy val\u00f3di szab\u00e1lyoz\u00e1sok lenn\u00e9nek a biztons\u00e1gunk \u00e9rdek\u00e9ben\u201d \u2013 mondta egy nyilatkozatban, amelyben k\u00f6telez\u0151 f\u00fcggetlen biztons\u00e1gi tesztel\u00e9st, a biztons\u00e1gi incidensek k\u00f6telez\u0151 k\u00f6zz\u00e9t\u00e9tel\u00e9t \u00e9s nemzetk\u00f6zi egy\u00fcttm\u0171k\u00f6d\u00e9st szorgalmazott, \u201ehogy megv\u00e9dj\u00fck az embereket a teljes katasztr\u00f3f\u00e1t\u00f3l\u201d.
A Nemzeti Kiberigazgat\u00f3 Hivatala, az amerikai kiberv\u00e9delmi \u00fcgyn\u00f6ks\u00e9g, a CISA \u00e9s az amerikai Nemzetbiztons\u00e1gi \u00dcgyn\u00f6ks\u00e9g nem v\u00e1laszolt azonnal a megkeres\u00e9s\u00fcnkre.
Katie Moussouris, a Luta Security vez\u00e9rigazgat\u00f3ja szerint az incidens a k\u00f6zelg\u0151 behatol\u00e1sok el\u0151jele, \u00e9s a mai modellek \u201eolyanok, mint a vil\u00e1g legokosabb polip szabadul\u00f3m\u0171v\u00e9szei, korl\u00e1tlan kapaszkod\u00f3karokkal \u00e9s azzal a k\u00e9pess\u00e9ggel, hogy b\u00e1rhol \u00e1tfurakodjanak\u201d.<\/p>\n\n\n\n
Matt Suiche, a Tolmo \u00fcgyn\u00f6ks\u00e9gi mesters\u00e9ges intelligenci\u00e1val foglalkoz\u00f3 kiberbiztons\u00e1gi c\u00e9g m\u00e9rn\u00f6ke szerint az incidens azt mutatta, hogy a hat\u00e1rmodellek \u201ebez\u00e1rj\u00e1k a szakad\u00e9kot a legmodernebb t\u00e1mad\u00f3kkal\u201d. Hozz\u00e1tette azonban, hogy az OpenAI blogbejegyz\u00e9s\u00e9ben felv\u00e1zolt t\u00edpus\u00fa incidensek v\u00e9grehajthat\u00f3k olyan technol\u00f3gi\u00e1val, amely messze a hat\u00e1rkutat\u00f3 laborat\u00f3riumok falain t\u00fal is el\u00e9rhet\u0151.
\u201eEzt m\u00e1r l\u00e1ttuk bels\u0151leg, az \u00fcgyn\u00f6keinkkel m\u00e1r vannak ilyen eredm\u00e9nyeink\u201d \u2013 mondta Suiche. \u201eM\u00e9g csak a leg\u00fajabb modelleket sem kell haszn\u00e1lnunk.\u201d<\/p>\n\n\n\n