Egyelőre a megbízható könyvek valószínűleg veszélyesebbek, mint a mesterséges intelligencia által épített modellek, de ez a technológia folyamatosan fejlődik.
A Wall Street Journal új jelentése szerint tavaly nyáron világszerte „több száz” felhasználóról észleltek vagy tudtak, hogy arról kérdezték a ChatGPT-t, hogyan készíthet mérgeket és biofegyvereket. A jelentés forrásként „a nagyobb MI-laboratóriumok, köztük az OpenAI jelenlegi és korábbi alkalmazottait”, valamint „biológiai fegyvereket tanulmányozó politikai tanácsadókat és kutatókat” említ. Az OpenAI állítólag azt nyilatkozta a Journalnak, hogy a vonatkozó kérdések többsége mérgekre vonatkozott.
A jelentés nem részletezi teljesen a szabálytalan lekérdezések észlelésének pontos természetét, de erősen arra utal, hogy ezek a ChatGPT közvetlen használatai voltak, nem pedig vészjelzésekre irányuló gyakorlatok. És úgy tűnik, hogy később valódi tudósoknak és védelmi szakértőknek is bemutatták őket, hogy ellenőrizzék a ChatGPT pontosságát és hasznosságát ezekkel a problémás témákkal kapcsolatban. „Biológiai és terrorizmus szakértők később áttekintették a ChatGPT-vel kapcsolatos adatcseréket, és némelyiket halálosan pontosnak ítélték – mondták az ügyben jártas emberek” – írja a Journal.
A tényleges utasításokat „türelmesen” és egy középiskolás diák tudásszintjén adták ki. A felhasználókat kitiltották emiatt a viselkedés miatt, de a Journal szerint a hatóságokat nem értesítették. Az OpenAI azt nyilatkozta a Journalnak, hogy az ilyen jellegű lekérdezéseket akkor küldik a bűnüldöző szerveknek, ha azokat hihető, valós veszélyeknek ítélik.
Eddig a legtöbb baljóslatú segítség, amit a fogyasztói szintű mesterséges intelligencia által vezérelt chatbotok állítólag a rosszfiúknak nyújtottak, inkább általános tanácsadás és bátorítás volt, mint bármi, ami a rosszfiúk számára jelentős fejlesztésnek tűnhet. Az egyik, a New York Timesban leírt incidensben a Boko Haram tagjai állítólag tanácsot kértek egy chatbottól motorkerékpárjaik ugratáshoz való átalakításával kapcsolatban, és ezeket a motorkerékpárokat (és sok gyakorlást) arra használták, hogy – a Times állítása szerint – „elegendő légi felszállást érjenek el egy sikeres támadáshoz”. Ha ez igaz, az nem jó állítás, de egy jó hírű könyv ebben a témában valószínűleg szintén segített volna a Boko Haramnak – mesterséges intelligenciára nem volt szükség.
A Journal biofegyverekről és mérgekről szóló jelentése mégis akkor jelenik meg, amikor ezek a technológiák fejlődnek és – ami még lényegesebb – diverzifikálódnak. Az olyan saját fejlesztésű, határmodellek, mint a tavaly nyári legfejlettebb GPT-modell, végül hozzájárulhatnak titokban desztillált , nem határmodellek létrejöttéhez, amelyeket gyakran olcsó, nyitott súlyú termékekként adnak ki, és amelyek bármilyen kellően nagy teljesítményű gépen futtathatók. Léteznek olyan technikák is, amelyekkel a modelleket úgy módosíthatják, hogy az elutasító viselkedést eltávolítsák a modellek újonnan létrehozott verzióiból, ami azt jelenti, hogy a modellben található bármilyen információ kicsalogatható.
Ésszerű aggódni, hogy az ijesztő, határvidéki MI-modellek, amelyek 2026-ban lángra lobbantják a szövetségi kormányzat haját – és végül a behódolásig megbénítják őket –, talán két év múlva mutálódnak át egy cenzúrázatlan modellé, amelyhez a rosszindulatú szereplők megfelelő áron hozzáférhetnek, ha tudják, hol keressék . Ugyanakkor fejlődnek azok a technikák is, amelyekkel vissza lehet foltozni azokat a repedéseket, amelyek eltávolítják a modell korlátjait .
Az OpenAI azt nyilatkozta a Journalnak, hogy modelljeit úgy tervezték, hogy elutasítsák a káros kéréseket, és hogy kiadás előtt ellenőrzik azok biztonságosságát. A Journal látszólag átfogalmazta azt, amit egy OpenAI szóvivő mondott nekik, hogy az OpenAI „képes azonosítani és megzavarni azokat a kísérleteket, amelyek modelljei felhasználásával káros biológiai információkat szereznek”.
Tovább a cikkre: gizmodo.com (Mike Pearl)
