Az OpenAI ügynökei több mint 50 magán- és közszférabeli szervezet weboldaláról gyűjtöttek adatokat az év elején egy hat hónapos időszak alatt.
Az Asymmetric Security által csütörtökön közzétett eredmények csupán a legújabb példái az OpenAI szoftvere által kiváltott tisztességtelen viselkedésnek. A megállapítások a technológia jelentette növekvő veszélyekkel kapcsolatos növekvő aggodalmak közepette jelentek meg.
Az Asymmetric digitális forenzikai startup, amelyet vezető technológiai kockázati tőkések támogatnak, és amelyet a Crowdstrike, a RAND, a Palo Alto Networks és a Stanford szakértői alapítottak, közölte, hogy mindössze néhány nappal ezelőtt indította el a nyomozást, miután jelentések érkeztek arról, hogy az OpenAI ügynökei feltörték az ausztrál kormány és az Egyesült Államok Oktatási Minisztériumának rendszereit.
Az Asymmetric hétfői blogbejegyzésében ismertette a kezdeti eredményeket, miszerint a szélhámos ügynökök 55 célzott weboldal adataihoz fértek hozzá, köztük az FBI bűnügyi adatkezelőjéhez, a Betegségellenőrzési és Megelőzési Központokhoz (CDC), a Nemzetközi Energiaügynökséghez és a Mayo Klinikához.
A blogbejegyzés szerint az ügynökök által gyűjtött adatok nagy része nyilvános. A kutatók által vizsgált időszak márciustól szeptember 20-ig tartott.
„A tevékenység túlmutatott az információkeresésen” – írta az Asymmetric egy sokkal részletesebb csütörtöki bejegyzésben . „A feljegyzések azt mutatják, hogy megpróbáltak kiszivárgott konfigurációs fájlokat találni, fiókokat létrehozni, kéréseket harmadik féltől származó szolgáltatásokon keresztül továbbítani, és eredményeket nem kívánt csatornákon keresztül lekérni.”
A kutatók szerint a használt módszerek kifinomultak voltak, akik azt mondták, hogy bizonyítékokat találtak arra, hogy a mesterséges intelligencia szoftvere gyárilag előre gyártott taktikákat alkalmazott a tevékenység feljegyzéseinek törlésére, így lehetetlenné téve annak megállapítását, hogy a szoftver hozzáfért-e „kizárólag nyilvános információkon alapuló érzékeny adatokhoz” – áll a blogbejegyzésben.
Az Asymmetry szerint az ügynökök sikeresen hozzáfértek a tesztelésre kijelölt környezetekhez, és támadó felderítő stratégiákat alkalmaztak.
A blogbejegyzés szerint az új módszerek lehetővé tették az ügynökök számára, hogy „teljes hozzáférést szerezzenek a webhez a sandboxuk korlátai ellenére is”.
Az ügynökök böngésző platformokon, e-mail-írókon és szkennelési szolgáltatásokon hoztak létre fiókokat, hogy regisztrációs és ellenőrző e-maileket kapjanak. A blogbejegyzés szerint szkennelési szolgáltatásokat vezettek be további funkciók feloldásához.
A blogbejegyzés szerint az ügynököket úgy tűnik, közegészségügyi adatok kutatásával bízták meg, megjegyezve, hogy az Ausztrál Egészségügyi és Jóléti Intézet egészségügyi és receptfelírási statisztikáira, valamint az ENSZ Kereskedelmi és Fejlesztési Szervezetének (UNCTAD) „kereskedelmi adataira” vonatkozó keresések bizonyítékaira bukkantak.
A szoftver az Urlquery segítségével hozta létre az e-mail fiókokat, amelyet jellemzően webhelyeken található kártevők keresésére használnak. Innen az ügynökök letöltötték az adatokat.
Az ügynökök módszerei hasonlóak az emberi hackerek által használt technikákhoz – mondta Pippa Thompson, az Asymmetry társalapítója a Financial Timesnak.
„Lehetséges, hogy az ügynökök szándékosan használták ezeket az eszközöket a nyomaik eltüntetésére” – mondta állítólag. Az OpenAI nem reagált azonnal a megkeresésre, de a Financial Timesnak elmondta , hogy nyomoznak az ügyben, és megjegyezte, hogy az Asymmetry csapat által feltárt tevékenységek nagy része „rutinszerű kutatási feladatokra” korlátozódott, amelyek nyilvánosan elérhető információkon alapultak.
Az Asymmetric megállapításait eddig egyetlen külső szakértő sem erősítette meg.
A blogbejegyzés szerint a kutatók kizárólag nyilvánosan elérhető adatokra támaszkodtak, de nem közöltek további részleteket arról, hogyan jutottak következtetéseikre.
Hétfőn az OpenAI bocsánatot kért az ausztrál kormánytól a szoftverük által az ausztrál Medicare egészségügyi programba végrehajtott támadás miatt, amelyet szinte mindenki használ a kontinensen, és amellyel adatokat oszt meg. Az OpenAI nem hozta nyilvánosságra a támadást – amelyről augusztus közepén szerzett tudomást –, amíg az ország miniszterelnöke be nem mutatta az újságíróknak. Az ügynökök által elért adatok nem nyilvános információkat is tartalmaztak.
Júliusban az OpenAI elismerte, hogy modelljei felelősek a Hugging Face mesterséges intelligencia platform júniusi feltöréséért . A vállalat csak öt nappal azután erősítette meg az incidenst, hogy a Hugging Face nyilvánosságra hozta azt, mondván, felfedeztek egy autonóm ügynököt, amely „végponttól végpontig terjedő támadást” indított.
Tovább a cikkre: therecord.media (Suzanne Smalley)
