A Google mesters\u00e9ges intelligenci\u00e1val m\u0171k\u00f6d\u0151 chatbotja, a Gemini nagyszab\u00e1s\u00fa inform\u00e1ci\u00f3rabl\u00e1s c\u00e9lpontj\u00e1v\u00e1 v\u00e1lt, a t\u00e1mad\u00f3k k\u00e9rd\u00e9sekkel \u00e1rasztj\u00e1k el a rendszert, hogy lem\u00e1solj\u00e1k a m\u0171k\u00f6d\u00e9s\u00e9t. Egyetlen m\u0171velet sor\u00e1n t\u00f6bb mint 100 000 lek\u00e9rdez\u00e9st k\u00fcldtek a chatbotnak, megpr\u00f3b\u00e1lva felt\u00e1rni azokat a titkos mint\u00e1kat, amelyek okoss\u00e1 teszik.<\/p>\n\n\n\n
A c\u00e9g cs\u00fct\u00f6rt\u00f6k\u00f6n arr\u00f3l sz\u00e1molt be, hogy ezek az \u00fagynevezett \u201edesztill\u00e1ci\u00f3s t\u00e1mad\u00e1sok\u201d egyre s\u00falyosbodnak. A rosszindulat\u00fa szerepl\u0151k k\u00e9rd\u00e9sek hull\u00e1m\u00e1t k\u00fcldik, hogy kital\u00e1lj\u00e1k a Gemini v\u00e1laszai m\u00f6g\u00f6tt rejl\u0151 logik\u00e1t. C\u00e9ljuk egyszer\u0171: ellopni a Google technol\u00f3gi\u00e1j\u00e1t, hogy saj\u00e1t mesters\u00e9ges intelligencia rendszereket \u00e9p\u00edthessenek vagy fejlessz\u00e9k an\u00e9lk\u00fcl, hogy milli\u00e1rdokat k\u00f6lten\u00e9nek fejleszt\u00e9sre.<\/p>\n\n\n\n
A Google \u00fagy v\u00e9li, hogy a t\u00e1mad\u00f3k t\u00f6bbs\u00e9ge mag\u00e1nv\u00e1llalkoz\u00e1s vagy kutat\u00f3, aki a neh\u00e9z munka elv\u00e9gz\u00e9se n\u00e9lk\u00fcl szeretne el\u0151nyh\u00f6z jutni. A v\u00e1llalat jelent\u00e9se szerint a t\u00e1mad\u00e1sok a vil\u00e1g minden t\u00e1j\u00e1r\u00f3l \u00e9rkeztek . John Hultquist, a Google Fenyeget\u00e9sfelder\u00edt\u0151 Csoportj\u00e1nak vezet\u0151je szerint a kisebb v\u00e1llalatok, amelyek egyedi mesters\u00e9ges intelligencia eszk\u00f6z\u00f6ket haszn\u00e1lnak, val\u00f3sz\u00edn\u0171leg hamarosan hasonl\u00f3 t\u00e1mad\u00e1sokkal fognak szembes\u00fclni.<\/p>\n\n\n\n
A tech c\u00e9gek doll\u00e1rmilli\u00e1rdokat k\u00f6lt\u00f6ttek mesters\u00e9ges intelligencia alap\u00fa chatbotjaik fejleszt\u00e9s\u00e9re. Ezeknek a rendszereknek a bels\u0151 m\u0171k\u00f6d\u00e9s\u00e9t korona\u00e9kszerk\u00e9nt kezelik. M\u00e9g ha vannak is v\u00e9delmi int\u00e9zked\u00e9sek ezen t\u00e1mad\u00e1sok elfog\u00e1s\u00e1ra, a nagyobb mesters\u00e9ges intelligencia alap\u00fa rendszerek k\u00f6nny\u0171 c\u00e9lpontok maradnak, mivel b\u00e1rki, aki rendelkezik internet-hozz\u00e1f\u00e9r\u00e9ssel, besz\u00e9lhet vel\u00fck.<\/p>\n\n\n\n
Tavaly az OpenAI a k\u00ednai DeepSeek c\u00e9gre mutogatott, azt \u00e1ll\u00edtva, hogy desztill\u00e1ci\u00f3t haszn\u00e1l a modelljei fejleszt\u00e9s\u00e9hez. A Cryptopolitan janu\u00e1r 30-\u00e1n arr\u00f3l sz\u00e1molt be, hogy Olaszorsz\u00e1g \u00e9s \u00cdrorsz\u00e1g betiltotta a DeepSeeket, miut\u00e1n az OpenAI azzal v\u00e1dolta a k\u00ednai c\u00e9get, hogy desztill\u00e1ci\u00f3t haszn\u00e1l a mesters\u00e9ges intelligencia modelljeinek ellop\u00e1s\u00e1ra. A technika lehet\u0151v\u00e9 teszi a v\u00e1llalatok sz\u00e1m\u00e1ra, hogy dr\u00e1ga technol\u00f3gi\u00e1kat m\u00e1soljanak a k\u00f6lts\u00e9gek t\u00f6red\u00e9k\u00e9\u00e9rt.<\/p>\n\n\n\n
Mi\u00e9rt teszik ezt a t\u00e1mad\u00f3k?
A gazdas\u00e1goss\u00e1g brut\u00e1lis. Egy \u00e9lvonalbeli MI-modell fel\u00e9p\u00edt\u00e9se t\u00f6bb sz\u00e1zmilli\u00f3 vagy ak\u00e1r milli\u00e1rd doll\u00e1rba is ker\u00fcl. A DeepSeek \u00e1ll\u00edt\u00f3lag k\u00f6r\u00fclbel\u00fcl hatmilli\u00f3 doll\u00e1r\u00e9rt \u00e9p\u00edtette meg R1 modellj\u00e9t desztill\u00e1ci\u00f3val, m\u00edg a ChatGPT-5 fejleszt\u00e9se meghaladta a k\u00e9tmilli\u00e1rd doll\u00e1rt az ipar\u00e1gi jelent\u00e9sek szerint. Egy modell logik\u00e1j\u00e1nak ellop\u00e1sa ezt a hatalmas befektet\u00e9st szinte null\u00e1ra cs\u00f6kkenti.<\/p>\n\n\n\n
A Google szerint a Gemini elleni t\u00e1mad\u00e1sok k\u00f6z\u00fcl sok azokat az algoritmusokat c\u00e9lozta meg, amelyek seg\u00edtik az inform\u00e1ci\u00f3 \u201e\u00e9rvel\u00e9s\u00e9t\u201d vagy feldolgoz\u00e1s\u00e1t. Azok a v\u00e1llalatok, amelyek saj\u00e1t mesters\u00e9ges intelligenciarendszereiket \u00e9rz\u00e9keny adatokon \u2013 p\u00e9ld\u00e1ul 100 \u00e9vnyi keresked\u00e9si strat\u00e9gi\u00e1kon vagy \u00fcgyf\u00e9ladatokon \u2013 k\u00e9pzik, most ugyanezzel a vesz\u00e9llyel n\u00e9znek szembe.<\/p>\n\n\n\n
\u201eTegy\u00fck fel, hogy az LLM diplom\u00e1dat 100 \u00e9vnyi titkos gondolkod\u00e1sm\u00f3dra k\u00e9pezt\u00e9k ki a keresked\u00e9si m\u00f3dszereiddel kapcsolatban. Elm\u00e9letileg le is tudn\u00e1d sz\u0171rni ennek egy r\u00e9sz\u00e9t\u201d \u2013 magyar\u00e1zta Hultquist.<\/p>\n\n\n\n
Nemzet\u00e1llami hackerek is csatlakoznak a vad\u00e1szathoz
A probl\u00e9ma t\u00falmutat a p\u00e9nz\u00e9hes v\u00e1llalatokon. Az APT31, egy k\u00ednai korm\u00e1nyzati hackercsoport, amelyet 2024 m\u00e1rcius\u00e1ban amerikai szankci\u00f3kkal s\u00fajtottak, tavaly \u00e9v v\u00e9g\u00e9n a Gemini rendszert haszn\u00e1lta fel amerikai szervezetek elleni t\u00e9nyleges kibert\u00e1mad\u00e1sok megtervez\u00e9s\u00e9re.<\/p>\n\n\n\n
A csoport a Geminit a Hexstrike-kal, egy ny\u00edlt forr\u00e1sk\u00f3d\u00fa hackereszk\u00f6zzel p\u00e1ros\u00edtotta, amely t\u00f6bb mint 150 biztons\u00e1gi programot k\u00e9pes futtatni. T\u00e1voli k\u00f3dfuttat\u00e1si hib\u00e1kat, a webes biztons\u00e1g megker\u00fcl\u00e9s\u00e9nek m\u00f3djait \u00e9s SQL-befecskendez\u00e9si t\u00e1mad\u00e1sokat elemeztek \u2013 mindezt konkr\u00e9t amerikai c\u00e9lpontok ellen, \u00e1ll a Google jelent\u00e9s\u00e9ben.<\/p>\n\n\n\n
A Cryptopolitan kor\u00e1bban is foglalkozott hasonl\u00f3 mesters\u00e9ges intelligencia biztons\u00e1gi agg\u00e1lyokkal, figyelmeztetve , hogy a hackerek mesters\u00e9ges intelligencia sebezhet\u0151s\u00e9geit haszn\u00e1lj\u00e1k ki. Az APT31 esete azt mutatja, hogy ezek a figyelmeztet\u00e9sek tal\u00e1l\u00f3ak voltak.<\/p>\n\n\n\n
Hultquist k\u00e9t f\u0151 aggodalomra mutatott r\u00e1. Az ellenfelek minim\u00e1lis emberi seg\u00edts\u00e9ggel m\u0171k\u00f6dhetnek a teljes behatol\u00e1si ciklusban, \u00e9s az automatiz\u00e1lt t\u00e1mad\u00e1si eszk\u00f6z\u00f6k fejleszt\u00e9se. \u201eEz k\u00e9t olyan m\u00f3d, amellyel az ellenfelek jelent\u0151s el\u0151ny\u00f6kre tehetnek szert, \u00e9s minim\u00e1lis emberi beavatkoz\u00e1ssal haladhatnak v\u00e9gig a behatol\u00e1si cikluson\u201d \u2013 mondta.<\/p>\n\n\n\n
A szoftveres gyenges\u00e9gek felfedez\u00e9se \u00e9s a jav\u00edt\u00e1s kidolgoz\u00e1sa k\u00f6z\u00f6tt eltelt id\u0151, az \u00fagynevezett patch gap (jav\u00edt\u00e1si r\u00e9s), dr\u00e1maian kisz\u00e9lesedhet. A szervezeteknek gyakran hetekbe telik a v\u00e9delmi int\u00e9zked\u00e9sek telep\u00edt\u00e9se. Mivel a mesters\u00e9ges intelligencia \u00e1gensei automatikusan megtal\u00e1lj\u00e1k \u00e9s tesztelik a sebezhet\u0151s\u00e9geket, a t\u00e1mad\u00f3k sokkal gyorsabban cselekedhetnek.<\/p>\n\n\n\n
\u201eKi kell haszn\u00e1lnunk a mesters\u00e9ges intelligencia el\u0151nyeit, \u00e9s egyre ink\u00e1bb ki kell vonnunk az embereket a folyamatokb\u00f3l, hogy g\u00e9pi sebess\u00e9ggel tudjunk reag\u00e1lni\u201d \u2013 mondta Hultquist a The Registernek.<\/p>\n\n\n\n
A p\u00e9nz\u00fcgyi t\u00e9t \u00f3ri\u00e1si. Az IBM 2024-es adatv\u00e9delmi incidensekr\u0151l sz\u00f3l\u00f3 jelent\u00e9se szerint a szellemi tulajdon ellop\u00e1sa ma rekordonk\u00e9nt 173 doll\u00e1rba ker\u00fcl a szervezeteknek, az IP-re f\u00f3kusz\u00e1lt incidensek pedig 27%-kal n\u0151ttek \u00e9ves szinten. A mesters\u00e9ges intelligencia modelljeinek s\u00falyai \u200b\u200bjelentik a legmagasabb \u00e9rt\u00e9k\u0171 c\u00e9lpontokat ebben a f\u00f6ldalatti gazdas\u00e1gban \u2013 egyetlen ellopott hat\u00e1rmodell t\u00f6bb sz\u00e1zmilli\u00f3 doll\u00e1rt hozhat a feketepiacon.<\/p>\n\n\n\n
A Google lez\u00e1rta az ezekhez a kamp\u00e1nyokhoz kapcsol\u00f3d\u00f3 fi\u00f3kokat, de a t\u00e1mad\u00e1sok tov\u00e1bbra is \u201ea vil\u00e1g minden t\u00e1j\u00e1r\u00f3l\u201d \u00e9rkeznek \u2013 mondta Hultquist. Ahogy a mesters\u00e9ges intelligencia egyre er\u0151sebb\u00e9 v\u00e1lik, \u00e9s egyre t\u00f6bb v\u00e1llalat t\u00e1maszkodik r\u00e1, v\u00e1rhat\u00f3an ez a digit\u00e1lis aranyl\u00e1z fokoz\u00f3dni fog. A k\u00e9rd\u00e9s nem az, hogy lesznek-e tov\u00e1bbi t\u00e1mad\u00e1sok, hanem az, hogy a v\u00e9d\u0151k k\u00e9pesek-e l\u00e9p\u00e9st tartani.<\/p>\n\n\n\n