A kutatók kidolgoztak egy matematikai képletet, ami képes megjósolni, hogy az AI-chatbotok mikor „válnak rendetlenné”, vagyis mikor váltanak hirtelen a hasznos válaszokról a potenciálisan károsakra. Kiderült, nem mindegy, mit mikor kérdezünk, ezzel befolyásolhatjuk, hogy mit reagál a chatbot.
Egy új tanulmányban Neil Johnson fizikaprofesszor és Frank Yingjie Huo doktorandusz a George Washington Egyetemről bemutatja, hogy a chatbot válaszainak sorrendje drasztikusan átalakíthatja a későbbi reakcióit, ami rossz válaszokhoz vezethet. Persze az is kérdés, ki a felelős, ha az AI-ügynök hibázik? Például ha az OpenAI AI-ágense behatol egy ausztrál, kormányzati irányítású egészségügyi portálba, és jogosulatlan hozzáférést szerez az ott tárolt fájlokhoz? A cég, a fejlesztő vagy az IT hibája?
Az elmúlt évek AI-forradalma technológiailag lenyűgöző, de most mintha kezdene kiszabadulni a szellem a palackból, erre figyelmeztetnek a topfejlesztők és tudósok is. Kontroll kell, belátás, és a tudatosság, hogy minden munkát, területet nem engedhetünk át az AI-nak. A rutinszerű, mechanikus döntések mehetnek, ez az embert amúgy sem elégíti ki. Ha hibázik az „autosapiens”, vagyis az ágens, felhatalmazást kapott, de tőlünk.
Ő az új munkatárs, de a felelősség sem hárítható kizárólag rá. Az osztályát terheli, például ha a gazdasági részlegen segít, akkor a felelősség és felügyelet ezé a szekcióé. Egy új kutatás a hibák kiküszöbölését állította fókuszba, a chatbotok hibás párbeszédeinek, tanácsainak felgöngyölítését, megakadályozását.
Általában azért hibáznak, mert nem emberi módon gondolkodnak.
A chatbotok komplikált matematikai és statisztikai mintákat követnek. Nem „értik” a szavak valós jelentését, csupán megtippelik a következő legvalószínűbb szót. Ezért is logikus, ha matematikai képlettel próbálnak következtetni a lépéseire.
Nem mindegy, mit, mikor, hogyan
Neil Johnson fizikaprofesszor és Frank Yingjie Huo szerint a kontextus lehet a magyarázat. Képletük könnyen megjósolhatja, mikortól várható a baki, és miért. Mivel sok borzalmas történet kering a neten arról, hogy a mesterséges intelligencia öngyilkosságra ösztönzi a felhasználókat, segít halálos fegyverek építésében, és felerősíti a nők elleni agressziót, Johnsonék kutatása fontos a chatbotok megbízhatósága szempontjából. Az OpenAI, az Anthropic kutatói többször is hangsúlyozták, nem értik, miért viselkednek úgy az alkotásaik, ahogy. De csak olyan biztonsági intézkedéseket építettek be, amik Johnson szerint csupán halottnak a csók.
Ezek az eszközök elégtelenek, Huóval együtt komolyabb védelmet kerestek. Rájöttek, hogy nem is a tartalom megváltoztatása a lényeg, hanem a kérdések sorrendjének megváltoztatása.
Kényes a belső egyensúly a jó és a rossz, a kívánatos és a nemkívánatos között.
Az OpenAI alapvető GPT-2 modelljét a vakcinákra vonatkozó és mások bántalmazásával és önkárosítással kapcsolatos kérdésekkel indították el. Amikor a párbeszédet a „Rosszak-e az oltások?” kérdéssel kezdték, teljesen máshogy reagált, mint mikor a diskurzus végén tették fel ugyanezt a kérdést.
Wei Xing a Sheffieldi Egyetem mesterségesintelligencia-oktatója nem vett részt a kutatásukban, de egyetért azzal, hogy a felügyelet nélküli offline eszközökkel kapcsolatos aggodalmak megalapozottak. Ugyanakkor óvatosságra intett, mert Johnsonék csak egy apró részletre fókuszáltak, és régi modelleken (GPT-2, EleutherAI Pythia és Meta OPT nyílt forráskódú modelljei) tesztelték, nem pedig ma használatban lévő MI-asszisztenseken.
Biztos, hogy további tesztelésre van szükség a legújabb modelleken annak megállapításához, hogy ennek a mesterséges intelligencia korai figyelmeztetőrendszerének van-e még ereje. Egyelőre azonban Johnson és Huo kutatása egy fontos tényre hívta fel a figyelmet: a mesterséges intelligencia egy pillantás alatt képes nemkívánatos viselkedésre.
Tovább a cikkre: index.hu (Králl Bernarda)
