A kutat\u00f3k kidolgoztak egy matematikai k\u00e9pletet, ami k\u00e9pes megj\u00f3solni, hogy az AI-chatbotok mikor \u201ev\u00e1lnak rendetlenn\u00e9\u201d, vagyis mikor v\u00e1ltanak hirtelen a hasznos v\u00e1laszokr\u00f3l a potenci\u00e1lisan k\u00e1rosakra. Kider\u00fclt, nem mindegy, mit mikor k\u00e9rdez\u00fcnk, ezzel befoly\u00e1solhatjuk, hogy mit reag\u00e1l a chatbot.<\/p>\n\n\n\n
Egy \u00faj tanulm\u00e1nyban Neil Johnson fizikaprofesszor \u00e9s Frank Yingjie Huo doktorandusz a George Washington Egyetemr\u0151l bemutatja, hogy a chatbot v\u00e1laszainak sorrendje drasztikusan \u00e1talak\u00edthatja a k\u00e9s\u0151bbi reakci\u00f3it, ami rossz v\u00e1laszokhoz vezethet. Persze az is k\u00e9rd\u00e9s, ki a felel\u0151s, ha az AI-\u00fcgyn\u00f6k hib\u00e1zik?<\/a> P\u00e9ld\u00e1ul ha az OpenAI AI-\u00e1gense behatol egy ausztr\u00e1l, korm\u00e1nyzati ir\u00e1ny\u00edt\u00e1s\u00fa eg\u00e9szs\u00e9g\u00fcgyi port\u00e1lba<\/a>, \u00e9s jogosulatlan hozz\u00e1f\u00e9r\u00e9st szerez az ott t\u00e1rolt f\u00e1jlokhoz? A c\u00e9g, a fejleszt\u0151 vagy az IT hib\u00e1ja?<\/p>\n\n\n\n Az elm\u00falt \u00e9vek AI-forradalma technol\u00f3giailag leny\u0171g\u00f6z\u0151, de most mintha kezdene kiszabadulni a szellem a palackb\u00f3l, erre figyelmeztetnek a topfejleszt\u0151k \u00e9s tud\u00f3sok is. Kontroll kell, bel\u00e1t\u00e1s, \u00e9s a tudatoss\u00e1g, hogy minden munk\u00e1t, ter\u00fcletet nem engedhet\u00fcnk \u00e1t az AI-nak. A rutinszer\u0171, mechanikus d\u00f6nt\u00e9sek mehetnek, ez az embert am\u00fagy sem el\u00e9g\u00edti ki. Ha hib\u00e1zik az \u201eautosapiens\u201d, vagyis az \u00e1gens, felhatalmaz\u00e1st kapott, de t\u0151l\u00fcnk.<\/p>\n\n\n\n \u0150 az \u00faj munkat\u00e1rs, de a felel\u0151ss\u00e9g sem h\u00e1r\u00edthat\u00f3 kiz\u00e1r\u00f3lag r\u00e1. Az oszt\u00e1ly\u00e1t terheli, p\u00e9ld\u00e1ul ha a gazdas\u00e1gi r\u00e9szlegen seg\u00edt, akkor a felel\u0151ss\u00e9g \u00e9s fel\u00fcgyelet ez\u00e9 a szekci\u00f3\u00e9. Egy \u00faj kutat\u00e1s a hib\u00e1k kik\u00fcsz\u00f6b\u00f6l\u00e9s\u00e9t \u00e1ll\u00edtotta f\u00f3kuszba, a chatbotok hib\u00e1s p\u00e1rbesz\u00e9deinek, tan\u00e1csainak felg\u00f6ngy\u00f6l\u00edt\u00e9s\u00e9t, megakad\u00e1lyoz\u00e1s\u00e1t.<\/p>\n\n\n\n \u00c1ltal\u00e1ban az\u00e9rt hib\u00e1znak, mert nem emberi m\u00f3don gondolkodnak.<\/strong><\/p>\n\n\n\n A chatbotok komplik\u00e1lt matematikai \u00e9s statisztikai mint\u00e1kat k\u00f6vetnek. Nem \u201e\u00e9rtik\u201d a szavak val\u00f3s jelent\u00e9s\u00e9t, csup\u00e1n megtippelik a k\u00f6vetkez\u0151 legval\u00f3sz\u00edn\u0171bb sz\u00f3t. Ez\u00e9rt is logikus, ha matematikai k\u00e9plettel pr\u00f3b\u00e1lnak k\u00f6vetkeztetni a l\u00e9p\u00e9seire.<\/p>\n\n\n\n Neil Johnson fizikaprofesszor \u00e9s Frank Yingjie Huo szerint a kontextus lehet a magyar\u00e1zat. K\u00e9plet\u00fck k\u00f6nnyen megj\u00f3solhatja, mikort\u00f3l v\u00e1rhat\u00f3 a baki, \u00e9s mi\u00e9rt. Mivel sok borzalmas t\u00f6rt\u00e9net kering a neten arr\u00f3l, hogy a mesters\u00e9ges intelligencia \u00f6ngyilkoss\u00e1gra \u00f6szt\u00f6nzi<\/a> a felhaszn\u00e1l\u00f3kat, seg\u00edt hal\u00e1los fegyverek \u00e9p\u00edt\u00e9s\u00e9ben<\/a>, \u00e9s feler\u0151s\u00edti a n\u0151k elleni agresszi\u00f3t<\/a>, Johnson\u00e9k kutat\u00e1sa fontos a chatbotok megb\u00edzhat\u00f3s\u00e1ga szempontj\u00e1b\u00f3l. Az OpenAI, az Anthropic kutat\u00f3i t\u00f6bbsz\u00f6r is hangs\u00falyozt\u00e1k, nem \u00e9rtik, mi\u00e9rt viselkednek \u00fagy az alkot\u00e1saik, ahogy. De csak olyan biztons\u00e1gi int\u00e9zked\u00e9seket \u00e9p\u00edtettek be, amik Johnson szerint csup\u00e1n halottnak a cs\u00f3k.<\/p>\n\n\n\n Ezek az eszk\u00f6z\u00f6k el\u00e9gtelenek, Hu\u00f3val egy\u00fctt komolyabb v\u00e9delmet kerestek. R\u00e1j\u00f6ttek, hogy nem is a tartalom megv\u00e1ltoztat\u00e1sa a l\u00e9nyeg, hanem a k\u00e9rd\u00e9sek sorrendj\u00e9nek megv\u00e1ltoztat\u00e1sa.<\/p>\n\n\n\n K\u00e9nyes a bels\u0151 egyens\u00faly a j\u00f3 \u00e9s a rossz, a k\u00edv\u00e1natos \u00e9s a nemk\u00edv\u00e1natos k\u00f6z\u00f6tt.<\/strong><\/p>\n\n\n\n Az OpenAI alapvet\u0151 GPT-2 modellj\u00e9t a vakcin\u00e1kra vonatkoz\u00f3 \u00e9s m\u00e1sok b\u00e1ntalmaz\u00e1s\u00e1val \u00e9s \u00f6nk\u00e1ros\u00edt\u00e1ssal kapcsolatos k\u00e9rd\u00e9sekkel ind\u00edtott\u00e1k el. Amikor a p\u00e1rbesz\u00e9det a \u201eRosszak-e az olt\u00e1sok?\u201d k\u00e9rd\u00e9ssel kezdt\u00e9k, teljesen m\u00e1shogy reag\u00e1lt, mint mikor a diskurzus v\u00e9g\u00e9n tett\u00e9k fel ugyanezt a k\u00e9rd\u00e9st.<\/p>\n\n\n\n Wei Xing a Sheffieldi Egyetem mesters\u00e9gesintelligencia-oktat\u00f3ja nem vett r\u00e9szt a kutat\u00e1sukban, de egyet\u00e9rt azzal, hogy a fel\u00fcgyelet n\u00e9lk\u00fcli offline eszk\u00f6z\u00f6kkel kapcsolatos aggodalmak megalapozottak. Ugyanakkor \u00f3vatoss\u00e1gra intett, mert Johnson\u00e9k csak egy apr\u00f3 r\u00e9szletre f\u00f3kusz\u00e1ltak, \u00e9s r\u00e9gi modelleken (GPT-2, EleutherAI Pythia \u00e9s Meta OPT ny\u00edlt forr\u00e1sk\u00f3d\u00fa modelljei) tesztelt\u00e9k, nem pedig ma haszn\u00e1latban l\u00e9v\u0151 MI-asszisztenseken.<\/p>\n\n\n\n Biztos, hogy tov\u00e1bbi tesztel\u00e9sre van sz\u00fcks\u00e9g a leg\u00fajabb modelleken annak meg\u00e1llap\u00edt\u00e1s\u00e1hoz, hogy ennek a mesters\u00e9ges intelligencia korai figyelmeztet\u0151rendszer\u00e9nek van-e m\u00e9g ereje. Egyel\u0151re azonban Johnson \u00e9s Huo kutat\u00e1sa egy fontos t\u00e9nyre h\u00edvta fel a figyelmet: a mesters\u00e9ges intelligencia egy pillant\u00e1s alatt k\u00e9pes nemk\u00edv\u00e1natos viselked\u00e9sre.<\/p>\n\n\n\nNem mindegy, mit, mikor, hogyan<\/h2>\n\n\n\n