Sajnos az OpenAI Greg Brockmanjának igaza lehet abban, hogy a mesterséges intelligencia támadójátéka dominál az emberi védekezésben.
Greg Brockman, az OpenAI elnöke – akinek a cég mesterséges intelligenciája nemrégiben kitört a saját tesztverziójából, és kibertámadást indított a HuggingFace mesterséges intelligencia platform ellen – arra figyelmeztet mindenkit, hogy hamarosan ugyanerre a bánásmódra számíthatnak.
Brockman vasárnap tette közzé a figyelmeztetést személyes blogján, azt írva, hogy a mesterséges intelligencia kódolási képességeinek gyors fejlődése azt jelenti, hogy a feltörésektől mentesen maradni kívánó szervezeteknek „példátlan sebességgel kell alapvetően fejleszteniük kiberbiztonsági gyakorlatukat”.
A nagyméretű nyelvi modellek legújabb generációi, az úgynevezett határmodellek, elkezdték megijeszteni a biztonsági közösséget, sőt még a szövetségi hatóságokat is. Ilyenek például az OpenAI Daybreakje és a rivális Anthropic Mythosja, amelyek jelenleg zárt hozzáférésű programként futnak, és amelyeket csak ellenőrzött és jóváhagyott partnerek használhatnak.
Ami (állítólag) megkülönbözteti ezeket a modelleket, az az újonnan megjelenő képesség, hogy ne csak gyorsan felfedezzék a szervezet támadási felületén lévő réseket, például a szoftveres sebezhetőségeket és a hibás konfigurációkat, hanem új támadási láncokat is építsenek. Ugyanakkor a mesterséges intelligencia fejlesztése most az ágensekre összpontosít, azaz olyan mesterséges intelligenciákra, amelyek nem korlátozódnak a chatbot stílusú interakciókra, és közvetlenül képesek kapcsolódni a szoftverekhez.
A legrosszabb esetben ez azt jelentené, hogy a határmodellek nemcsak láthatatlan szoftverhibákat fedezhetnek fel, hanem példátlan, menet közben kombinálhatják azokat. Bár isten tudja, mi a fene történik zárt ajtók mögött Donald Trump Fehér Házában, állítólag ez a fenyegetés okozta a kormányzat pánikot, és két antropikus modellt kényszerített ki a piacról ezen a nyáron. A Hugging Face elleni támadás minden bizonnyal megerősítette, hogy az LLM-ekbe beépített védőkorlátok legalábbis nem fejlődnek olyan gyorsan, mint a képességeik.
Az „állítólagos” magyarázat az, hogy bár a határbiztonsági modellek meglehetősen erősek, a mesterséges intelligencia cégek a szemérmetlen felhajtásra is támaszkodnak, hogy több milliárd dolláros befektetéseket szerezzenek. Egyes kritikusok szerint ezek inkább evolúciós, mint forradalmi modellek. Daniel Stenberg, a cURL vezető fejlesztője az LLM-eket nagyon jónak tartja a hibák megtalálásában, de „nem túl jónak a probléma kritikusságának tényleges felmérésében”.
Amit határozottan kijelenthetünk, az az, hogy sok olyan cég, amely hozzáférést kapott a határmodellekhez, hirtelen őrült tempóban kezd el javításokat kiadni, mint például az Oracle által a múlt hónapban kiadott közel 1450 javítás.
A mentőöv az, hogy a mesterséges intelligencia legalább annyira hatékony a védekezésben, sőt talán még jobb is Brockman szerint. Azt írta, hogy a határmodellek „olyan módon változtathatják meg [a biztonság] gazdaságosságát, amelyek alapvetően a védők előnyére válnak”, mint például az „emberfeletti módon biztonságos kód” vagy az új kriptográfiai rendszerek és más eszközök alapját képező matematikai bizonyítékok generálása. (Az év elején az OpenAI megoldott egy 80 éves jelentős geometriai sejtést, bár Sébastien Bubeck, az OpenAI matematikusa a Scientific Americannak elmondta, hogy a mesterséges intelligencia diadala inkább a végrehajtásról szólt, mint „valami alapvetően új dologról, amire senki sem számított”.)
Brockman nem meglepő módon 10 lépésből álló tanácsa a biztonsági csapatoknak természetesen magában foglalja a több mesterséges intelligencia beszerzését. Azt állítja, hogy a csapatoknak ügynököket kellene alkalmazniuk, és olyan készségekkel kellene felvértezniük őket, mint a „statikus elemzés, a biztonságra összpontosító kódfelmérés, a sebezhetőségi variánsok elemzése, a szoftverellátási lánc kockázata és egyéb biztonsági munkafolyamatok”, mielőtt fontossági sorrendben biztonsági értékeléseket futtatnának a rendszereken.
Brockman azt írta, hogy ezt követően a csapatoknak mesterséges intelligenciát kellene használniuk a sebezhetőségi problémák felhalmozódásának felszámolására, biztonsági ügynököket kellene integrálniuk a szoftverfejlesztésbe, hogy a problémákat már írásuk során észleljék, és hagyniuk kellene, hogy az ügynökök közvetlenül írjanak „fókuszált” javításokat ahelyett, hogy emberi felülvizsgálatra várnának. (Ez talán képes saját problémákat okozni – vegye figyelembe, hogy a biztonsági kutatók régóta figyelmeztetnek arra, hogy a rendetlenül viselkedő ügynököket nem biztos, hogy könnyű leállítani.)
Igazság szerint Brockman óvatosságra intett a biztonsági műveletek automatizálásának – ami magában foglalja a bejövő biztonsági riasztások triázsát – lassú kezdésével. Azt javasolta, hogy először csak olvasható vizsgálatokkal kezdjünk, mielőtt továbblépnénk „tanácsadó pull-request vizsgálatra, majd élő riasztások triázsára, végül a szűken meghatározott téves riasztások automatikus lezárására”.
Tovább a cikkre: gizmodo.com
