Sajnos az OpenAI Greg Brockmanj\u00e1nak igaza lehet abban, hogy a mesters\u00e9ges intelligencia t\u00e1mad\u00f3j\u00e1t\u00e9ka domin\u00e1l az emberi v\u00e9dekez\u00e9sben.<\/p>\n\n\n\n
Greg Brockman, az OpenAI eln\u00f6ke \u2013 akinek a c\u00e9g mesters\u00e9ges intelligenci\u00e1ja nemr\u00e9giben kit\u00f6rt<\/a> a saj\u00e1t tesztverzi\u00f3j\u00e1b\u00f3l, \u00e9s kibert\u00e1mad\u00e1st ind\u00edtott a HuggingFace mesters\u00e9ges intelligencia platform ellen \u2013 arra figyelmeztet mindenkit, hogy hamarosan ugyanerre a b\u00e1n\u00e1sm\u00f3dra sz\u00e1m\u00edthatnak.<\/p>\n\n\n\n Brockman vas\u00e1rnap tette k\u00f6zz\u00e9 a figyelmeztet\u00e9st szem\u00e9lyes blogj\u00e1n<\/a>, azt \u00edrva, hogy a mesters\u00e9ges intelligencia k\u00f3dol\u00e1si k\u00e9pess\u00e9geinek gyors fejl\u0151d\u00e9se azt jelenti, hogy a felt\u00f6r\u00e9sekt\u0151l mentesen maradni k\u00edv\u00e1n\u00f3 szervezeteknek \u201ep\u00e9ld\u00e1tlan sebess\u00e9ggel kell alapvet\u0151en fejleszteni\u00fck kiberbiztons\u00e1gi gyakorlatukat\u201d.<\/p>\n\n\n\n A nagym\u00e9ret\u0171 nyelvi modellek leg\u00fajabb gener\u00e1ci\u00f3i, az \u00fagynevezett hat\u00e1rmodellek, elkezdt\u00e9k megijeszteni a biztons\u00e1gi k\u00f6z\u00f6ss\u00e9get, s\u0151t m\u00e9g a sz\u00f6vets\u00e9gi hat\u00f3s\u00e1gokat is. Ilyenek p\u00e9ld\u00e1ul az OpenAI Daybreakje \u00e9s a riv\u00e1lis Anthropic Mythosja, amelyek jelenleg z\u00e1rt hozz\u00e1f\u00e9r\u00e9s\u0171 programk\u00e9nt futnak, \u00e9s amelyeket csak ellen\u0151rz\u00f6tt \u00e9s j\u00f3v\u00e1hagyott partnerek haszn\u00e1lhatnak.<\/p>\n\n\n\n Ami (\u00e1ll\u00edt\u00f3lag) megk\u00fcl\u00f6nb\u00f6zteti ezeket a modelleket, az az \u00fajonnan megjelen\u0151 k\u00e9pess\u00e9g, hogy ne csak gyorsan felfedezz\u00e9k a szervezet t\u00e1mad\u00e1si fel\u00fclet\u00e9n l\u00e9v\u0151 r\u00e9seket, p\u00e9ld\u00e1ul a szoftveres sebezhet\u0151s\u00e9geket \u00e9s a hib\u00e1s konfigur\u00e1ci\u00f3kat, hanem \u00faj t\u00e1mad\u00e1si l\u00e1ncokat is \u00e9p\u00edtsenek. Ugyanakkor a mesters\u00e9ges intelligencia fejleszt\u00e9se most az \u00e1gensekre \u00f6sszpontos\u00edt, azaz olyan mesters\u00e9ges intelligenci\u00e1kra, amelyek nem korl\u00e1toz\u00f3dnak a chatbot st\u00edlus\u00fa interakci\u00f3kra, \u00e9s k\u00f6zvetlen\u00fcl k\u00e9pesek kapcsol\u00f3dni a szoftverekhez.<\/p>\n\n\n\n A legrosszabb esetben ez azt jelenten\u00e9, hogy a hat\u00e1rmodellek nemcsak l\u00e1thatatlan szoftverhib\u00e1kat fedezhetnek fel, hanem p\u00e9ld\u00e1tlan, menet k\u00f6zben kombin\u00e1lhatj\u00e1k azokat. B\u00e1r isten tudja, mi a fene t\u00f6rt\u00e9nik z\u00e1rt ajt\u00f3k m\u00f6g\u00f6tt Donald Trump Feh\u00e9r H\u00e1z\u00e1ban, \u00e1ll\u00edt\u00f3lag ez a fenyeget\u00e9s okozta a korm\u00e1nyzat p\u00e1nikot, \u00e9s k\u00e9t antropikus modellt k\u00e9nyszer\u00edtett ki a piacr\u00f3l<\/a> ezen a ny\u00e1ron. A Hugging Face elleni t\u00e1mad\u00e1s minden bizonnyal meger\u0151s\u00edtette, hogy az LLM-ekbe be\u00e9p\u00edtett v\u00e9d\u0151korl\u00e1tok legal\u00e1bbis nem fejl\u0151dnek olyan gyorsan, mint a k\u00e9pess\u00e9geik.<\/p>\n\n\n\n Az \u201e\u00e1ll\u00edt\u00f3lagos\u201d magyar\u00e1zat az, hogy b\u00e1r a hat\u00e1rbiztons\u00e1gi modellek meglehet\u0151sen er\u0151sek, a mesters\u00e9ges intelligencia c\u00e9gek a szem\u00e9rmetlen felhajt\u00e1sra is t\u00e1maszkodnak, hogy t\u00f6bb milli\u00e1rd doll\u00e1ros befektet\u00e9seket szerezzenek<\/a>. Egyes kritikusok szerint ezek ink\u00e1bb evol\u00faci\u00f3s, mint forradalmi modellek. Daniel Stenberg, a cURL vezet\u0151 fejleszt\u0151je az LLM-eket nagyon j\u00f3nak tartja<\/a> a hib\u00e1k megtal\u00e1l\u00e1s\u00e1ban, de \u201enem t\u00fal j\u00f3nak a probl\u00e9ma kritikuss\u00e1g\u00e1nak t\u00e9nyleges felm\u00e9r\u00e9s\u00e9ben\u201d.<\/p>\n\n\n\n Amit hat\u00e1rozottan kijelenthet\u00fcnk, az az, hogy sok olyan c\u00e9g, amely hozz\u00e1f\u00e9r\u00e9st kapott a hat\u00e1rmodellekhez, hirtelen \u0151r\u00fclt temp\u00f3ban kezd el jav\u00edt\u00e1sokat kiadni, mint p\u00e9ld\u00e1ul az Oracle \u00e1ltal a m\u00falt h\u00f3napban kiadott k\u00f6zel 1450 jav\u00edt\u00e1s<\/a>.<\/p>\n\n\n\n A ment\u0151\u00f6v az, hogy a mesters\u00e9ges intelligencia legal\u00e1bb annyira hat\u00e9kony a v\u00e9dekez\u00e9sben, s\u0151t tal\u00e1n m\u00e9g jobb is Brockman szerint. Azt \u00edrta, hogy a hat\u00e1rmodellek \u201eolyan m\u00f3don v\u00e1ltoztathatj\u00e1k meg [a biztons\u00e1g] gazdas\u00e1goss\u00e1g\u00e1t, amelyek alapvet\u0151en a v\u00e9d\u0151k el\u0151ny\u00e9re v\u00e1lnak\u201d, mint p\u00e9ld\u00e1ul az \u201eemberfeletti m\u00f3don biztons\u00e1gos k\u00f3d\u201d vagy az \u00faj kriptogr\u00e1fiai rendszerek \u00e9s m\u00e1s eszk\u00f6z\u00f6k alapj\u00e1t k\u00e9pez\u0151 matematikai bizony\u00edt\u00e9kok gener\u00e1l\u00e1sa. (Az \u00e9v elej\u00e9n az OpenAI megoldott egy 80 \u00e9ves jelent\u0151s geometriai sejt\u00e9st, b\u00e1r S\u00e9bastien Bubeck, az OpenAI matematikusa a Scientific Americannak elmondta<\/a>, hogy a mesters\u00e9ges intelligencia diadala ink\u00e1bb a v\u00e9grehajt\u00e1sr\u00f3l sz\u00f3lt, mint \u201evalami alapvet\u0151en \u00faj dologr\u00f3l, amire senki sem sz\u00e1m\u00edtott\u201d.)<\/p>\n\n\n\n Brockman nem meglep\u0151 m\u00f3don 10 l\u00e9p\u00e9sb\u0151l \u00e1ll\u00f3 tan\u00e1csa a biztons\u00e1gi csapatoknak term\u00e9szetesen mag\u00e1ban foglalja a t\u00f6bb mesters\u00e9ges intelligencia beszerz\u00e9s\u00e9t. Azt \u00e1ll\u00edtja, hogy a csapatoknak \u00fcgyn\u00f6k\u00f6ket kellene alkalmazniuk, \u00e9s olyan k\u00e9szs\u00e9gekkel kellene felv\u00e9rtezni\u00fck \u0151ket, mint a \u201estatikus elemz\u00e9s, a biztons\u00e1gra \u00f6sszpontos\u00edt\u00f3 k\u00f3dfelm\u00e9r\u00e9s, a sebezhet\u0151s\u00e9gi vari\u00e1nsok elemz\u00e9se, a szoftverell\u00e1t\u00e1si l\u00e1nc kock\u00e1zata \u00e9s egy\u00e9b biztons\u00e1gi munkafolyamatok\u201d, miel\u0151tt fontoss\u00e1gi sorrendben biztons\u00e1gi \u00e9rt\u00e9kel\u00e9seket futtatn\u00e1nak a rendszereken.<\/p>\n\n\n\n Brockman azt \u00edrta, hogy ezt k\u00f6vet\u0151en a csapatoknak mesters\u00e9ges intelligenci\u00e1t kellene haszn\u00e1lniuk a sebezhet\u0151s\u00e9gi probl\u00e9m\u00e1k felhalmoz\u00f3d\u00e1s\u00e1nak felsz\u00e1mol\u00e1s\u00e1ra, biztons\u00e1gi \u00fcgyn\u00f6k\u00f6ket kellene integr\u00e1lniuk a szoftverfejleszt\u00e9sbe, hogy a probl\u00e9m\u00e1kat m\u00e1r \u00edr\u00e1suk sor\u00e1n \u00e9szlelj\u00e9k, \u00e9s hagyniuk kellene, hogy az \u00fcgyn\u00f6k\u00f6k k\u00f6zvetlen\u00fcl \u00edrjanak \u201ef\u00f3kusz\u00e1lt\u201d jav\u00edt\u00e1sokat ahelyett, hogy emberi fel\u00fclvizsg\u00e1latra v\u00e1rn\u00e1nak. (Ez tal\u00e1n k\u00e9pes saj\u00e1t probl\u00e9m\u00e1kat okozni<\/a> \u2013 vegye figyelembe, hogy a biztons\u00e1gi kutat\u00f3k r\u00e9g\u00f3ta figyelmeztetnek arra, hogy a rendetlen\u00fcl viselked\u0151 \u00fcgyn\u00f6k\u00f6ket<\/a> nem biztos, hogy k\u00f6nny\u0171 le\u00e1ll\u00edtani<\/a>.)<\/p>\n\n\n\n Igazs\u00e1g szerint Brockman \u00f3vatoss\u00e1gra intett a biztons\u00e1gi m\u0171veletek automatiz\u00e1l\u00e1s\u00e1nak \u2013 ami mag\u00e1ban foglalja a bej\u00f6v\u0151 biztons\u00e1gi riaszt\u00e1sok tri\u00e1zs\u00e1t \u2013 lass\u00fa kezd\u00e9s\u00e9vel. Azt javasolta, hogy el\u0151sz\u00f6r csak olvashat\u00f3 vizsg\u00e1latokkal kezdj\u00fcnk, miel\u0151tt tov\u00e1bbl\u00e9pn\u00e9nk \u201etan\u00e1csad\u00f3 pull-request vizsg\u00e1latra, majd \u00e9l\u0151 riaszt\u00e1sok tri\u00e1zs\u00e1ra, v\u00e9g\u00fcl a sz\u0171ken meghat\u00e1rozott t\u00e9ves riaszt\u00e1sok automatikus lez\u00e1r\u00e1s\u00e1ra\u201d.<\/p>\n\n\n\n