Z\u00e1ros hat\u00e1rid\u0151n bel\u00fcl kell legal\u00e1bb r\u00e9szben meg\u00e9rten\u00fcnk a mesters\u00e9ges intelligencia m\u0171k\u00f6d\u00e9s\u00e9t, mert hamarosan t\u00fal k\u00e9s\u0151 lesz.<\/p>\n\n\n\n
Eric Horvitz, a Microsoft vezet\u0151 tudom\u00e1nyos munkat\u00e1rsa \u00e9s Robert West, az EPFL sv\u00e1jci m\u0171szaki egyetem kutat\u00f3ja szerint a mesters\u00e9ges intelligencia olyan \u00fctemben fejl\u0151dik, hogy az ember kezd lemaradni m\u00f6g\u00f6tte.<\/p>\n\n\n\n
A kutat\u00f3k nem azt \u00e1ll\u00edtj\u00e1k, hogy minden egyes algoritmust vagy param\u00e9tert t\u00f6k\u00e9letesen \u00e9rten\u00fcnk kellene, de szerint\u00fck l\u00e9tfontoss\u00e1g\u00fa, hogy elegend\u0151 r\u00e1l\u00e1t\u00e1sunk maradjon a rendszerek m\u0171k\u00f6d\u00e9s\u00e9re ahhoz, hogy id\u0151ben felismerhess\u00fck a kock\u00e1zatokat \u00e9s meg\u0151rizz\u00fck az emberi kontrollt.<\/p>\n\n\n\n
Aggaszt\u00f3nak tartj\u00e1k, hogy a modern AI-rendszerek egyre gyakrabban vesznek r\u00e9szt m\u00e1s AI-modellek fejleszt\u00e9s\u00e9ben \u00e9s finomhangol\u00e1s\u00e1ban.<\/p>\n\n\n\n
Az ilyen \u00f6nmagukat fejleszt\u0151 folyamatok sor\u00e1n a teljes\u00edtm\u00e9ny ugyan javulhat, de az emberek egyre kev\u00e9sb\u00e9 l\u00e1thatj\u00e1k \u00e1t, pontosan hogyan sz\u00fcletnek a d\u00f6nt\u00e9sek.<\/p>\n\n\n\n
Horvitz \u00e9s West szerint az AI-rendszerek ma m\u00e1r olyan ciklusokban tervezik \u00e9s optimaliz\u00e1lj\u00e1k egym\u00e1st, amelyek gyorsabban zajlanak, mint ahogy az ember k\u00e9pes k\u00f6vetni azokat. Emiatt egyre nehezebb meg\u00e9rteni a h\u00e1tt\u00e9rben zajl\u00f3 folyamatokat, m\u00e9g akkor is, ha a v\u00e9geredm\u00e9ny l\u00e1that\u00f3 marad. A kutat\u00f3k ez\u00e9rt azt javasolj\u00e1k, hogy azok a rendszerek, amelyek r\u00e9szt vesznek m\u00e1s AI-ok fejleszt\u00e9s\u00e9ben, automatikusan k\u00e9sz\u00edtsenek ember \u00e1ltal is \u00e9rtelmezhet\u0151 magyar\u00e1zatokat a m\u0171k\u00f6d\u00e9s\u00fckr\u0151l.<\/p>\n\n\n\n
A m\u00e1sik v\u00e9szj\u00f3sl\u00f3 dolog, hogy egyre t\u00f6bb mesters\u00e9ges intelligencia m\u0171k\u00f6dik \u00f6sszekapcsolt h\u00e1l\u00f3zatokban, \u00e9s emiatt fenn\u00e1ll a vesz\u00e9lye annak, hogy ezek a rendszerek fokozatosan elt\u00e1volodnak az ember sz\u00e1m\u00e1ra \u00e9rthet\u0151 kommunik\u00e1ci\u00f3s form\u00e1kt\u00f3l. Magyarul ez annyit jelent, hogy elk\u00e9pzelhet\u0151, hogy az AI-ok id\u0151vel olyan kommunik\u00e1ci\u00f3s mint\u00e1kat alak\u00edtanak ki egym\u00e1s k\u00f6z\u00f6tt, amelyek hat\u00e9konyak sz\u00e1mukra, de az emberek sz\u00e1m\u00e1ra egyre kev\u00e9sb\u00e9 lesznek \u00e9rtelmezhet\u0151k.<\/p>\n\n\n\n
A tanulm\u00e1nyban \u00e9rintik a t\u00e1rsadalmi r\u00e9szt is, f\u0151leg az \u00fagynevezett adapt\u00edv AI-rendszerekkel kapcsolatban, amik hossz\u00fa id\u0151n kereszt\u00fcl kapcsolatban maradnak egy-egy emberrel. Az ilyen rendszerek id\u0151vel t\u00falont\u00fal r\u00e9szletes k\u00e9pet alkothatnak az emberek szok\u00e1sair\u00f3l<\/a>, preferenci\u00e1ir\u00f3l, motiv\u00e1ci\u00f3ir\u00f3l, bizonytalans\u00e1gair\u00f3l vagy ak\u00e1r f\u00e9lelmeir\u0151l.<\/p>\n\n\n\n Ez azt a diszt\u00f3pikus j\u00f6v\u0151t vet\u00edti el\u0151re, ahol a mesters\u00e9ges intelligencia egyre t\u00f6bbet tud az emberekr\u0151l, az emberek egyre kev\u00e9sb\u00e9 \u00e9rtik az AI m\u0171k\u00f6d\u00e9s\u00e9t.<\/p>\n\n\n\n Horvitz \u00e9s West arra is figyelmeztetnek, hogy a j\u00f6v\u0151ben az AI-modellek ak\u00e1r azt is megtanulhatj\u00e1k, hogyan feleljenek \u00fagy a teszteken \u00e9s ellen\u0151rz\u00e9seken, hogy az megfeleljen az elv\u00e1r\u00e1soknak<\/a>, de k\u00f6zben a h\u00e1tt\u00e9rben \u00fagy csin\u00e1lnak mindent, ahogy nekik tetszik.<\/p>\n\n\n\n A legnagyobb probl\u00e9ma jelenleg az, hogy az emberek fokozatosan elvesz\u00edthetik az \u00e9rdekl\u0151d\u00e9s\u00fcket az AI-rendszerek meg\u00e9rt\u00e9se \u00e9s ellen\u0151rz\u00e9se ir\u00e1nt<\/a>, ami jelenleg bel\u00e1thatatlan k\u00f6vetkezm\u00e9nyekkel j\u00e1rhat. A Science-en megjelent teljes cikket is<\/a> \u00e9rdemes elolvasni, ha \u00e9rdekel a t\u00e9ma.<\/p>\n\n\n\n Tov\u00e1bb a cikkre:<\/mark> pcwplus.hu<\/a> (M\u00e1rtha D\u00e1vid)<\/p>\n\n\n\n Ahogy a mesters\u00e9ges intelligencia (AI) k\u00e9pess\u00e9gei gyorsan fejl\u0151dnek, az emberi meg\u00e9rt\u00e9s egyre ink\u00e1bb lemarad ezen rendszerek ter\u00e9n. Sz\u00e1mos trend konverg\u00e1l, amelyek miatt a AI-rendszerek meg\u00e9rt\u00e9se nehezebb\u00e9 v\u00e1lik, mik\u00f6zben egyre jelent\u0151sebb\u00e9 v\u00e1lnak. Tudatos ellens\u00falyoz\u00e1si er\u0151fesz\u00edt\u00e9sek n\u00e9lk\u00fcl a helyre\u00e1ll\u00edt\u00e1s el\u0151tt bez\u00e1rulhat az ablak az olyan AI-rendszerek \u00e9p\u00edt\u00e9s\u00e9re, amelyeket \u00e9rdemi m\u00f3don meg tudunk \u00e9rteni \u00e9s ir\u00e1ny\u00edtani tudunk.<\/p>\n\n\n\n A mesters\u00e9ges intelligencia meg\u00e9rt\u00e9se \u2013 vagy \u00e9rtelmezhet\u0151s\u00e9ge \u2013 nem felt\u00e9tlen\u00fcl jelenti azt, hogy minden egyes k\u00f3dsort vagy minden egyes neur\u00e1lis h\u00e1l\u00f3zati param\u00e9tert ismern\u00fcnk kell. Ahogyan az emberi viselked\u00e9st t\u00f6bb szinten tanulm\u00e1nyozzuk, az idegtudom\u00e1nyt\u00f3l a pszichol\u00f3gi\u00e1n \u00e1t a szociol\u00f3gi\u00e1ig, a mesters\u00e9ges intelligencia alapelvei \u00e9s m\u0171k\u00f6d\u00e9se is k\u00fcl\u00f6nb\u00f6z\u0151 szinteken t\u00e1rhat\u00f3 fel \u00e9s \u00e9rthet\u0151 meg. A teljes mechanisztikus meg\u00e9rt\u00e9s tov\u00e1bbra is el\u00e9rhetetlen maradhat<\/a> , de a tudom\u00e1ny ritk\u00e1n m\u0171k\u00f6dik \u201emindent vagy semmit\u201d alapon; a r\u00e9szleges meg\u00e9rt\u00e9s tov\u00e1bbra is hasznos. Az ilyen meg\u00e9rt\u00e9st nem a teljess\u00e9g ir\u00e1nti ig\u00e9ny, hanem egy gyakorlati sz\u00fcks\u00e9glet teszi s\u00fcrget\u0151v\u00e9: Ahogy a k\u00e9pess\u00e9gek fejl\u0151d\u00e9se gyorsul, m\u00e9g a mesters\u00e9ges intelligencia rendszereibe val\u00f3 t\u00f6k\u00e9letlen ok-okozati betekint\u00e9s is lehet\u0151v\u00e9 teheti sz\u00e1munkra, hogy a kock\u00e1zatokat kor\u00e1n felismerj\u00fck \u00e9s beavatkozzunk, miel\u0151tt a k\u00e1rok s\u00falyosbodn\u00e1nak.<\/p>\n\n\n\n Az egyik trend, amely megnehez\u00edti a meg\u00e9rt\u00e9st, a mesters\u00e9ges intelligencia \u00e1ltal ir\u00e1ny\u00edtott AI-tervez\u00e9s t\u00e9rnyer\u00e9se. A AI-rendszereket ma m\u00e1r AI-rendszerek tervezik \u00e9s finom\u00edtj\u00e1k rekurz\u00edv ciklusokon kereszt\u00fcl<\/a>, amelyek meghaladhatj\u00e1k az emberi meg\u00e9rt\u00e9st, \u00e9s olyan nagy dimenzi\u00f3j\u00fa terekben bontakoznak ki, amelyek ellen\u00e1llnak az intu\u00edci\u00f3nak. Ennek eredm\u00e9nyek\u00e9nt egyre nagyobb a m\u0171k\u00f6d\u00e9si \u00e1tl\u00e1thatatlans\u00e1g: a teljes\u00edtm\u00e9ny javul, m\u00edg az el\u00e9r\u00e9s\u00e9nek m\u00f3dj\u00e1ba val\u00f3 betekint\u00e9s cs\u00f6kken. Az emberi betekint\u00e9s \u00e9s kontroll el\u0151mozd\u00edt\u00e1sa \u00e9rdek\u00e9ben a saj\u00e1t tervez\u00e9s\u00fckh\u00f6z hozz\u00e1j\u00e1rul\u00f3 AI-rendszereknek olyan magyar\u00e1zatokat \u00e9s eszk\u00f6z\u00f6ket kell l\u00e9trehozniuk, amelyek \u00e9rthet\u0151v\u00e9 teszik architekt\u00far\u00e1jukat \u00e9s m\u0171k\u00f6d\u00e9s\u00fcket az emberek sz\u00e1m\u00e1ra. Ellenkez\u0151 esetben az \u00e1tl\u00e1thatatlans\u00e1g a tervez\u00e9si folyamat nem sz\u00e1nd\u00e9kolt k\u00f6vetkezm\u00e9nyek\u00e9nt jelentkezhet.<\/p>\n\n\n\n Egy m\u00e1sik trend a mesters\u00e9ges intelligencia (AI) k\u00f6z\u00f6tti interakci\u00f3k elterjed\u00e9se<\/a>. Ahogy ezeknek az interakci\u00f3knak a m\u00e9rt\u00e9ke \u00e9s \u00f6sszetetts\u00e9ge n\u00f6vekszik a szorosan \u00f6sszekapcsolt t\u00f6bb\u00e1genses k\u00f6rnyezetekben, a k\u00f6vet\u00e9se egyre nehezebb\u00e9 v\u00e1lik<\/a>. Az AI-\u00e1gensek k\u00f6z\u00f6tti kommunik\u00e1ci\u00f3 elt\u00e9rhet az emberi nyelvt\u0151l<\/a> \u00e9s \u00e9rvel\u00e9st\u0151l, \u00e9s nehezebben \u00e9rtelmezhet\u0151v\u00e9 v\u00e1lhat. Ez interakci\u00f3s \u00e1tl\u00e1tszatlans\u00e1got okoz: a viselked\u00e9s koherens lehet a AI-\u00f6kosziszt\u00e9m\u00e1kon bel\u00fcl, de az emberek sz\u00e1m\u00e1ra nem k\u00f6nnyen \u00e9rtelmezhet\u0151. A kutat\u00f3knak tanulm\u00e1nyozniuk kell a t\u00f6bb\u00e1genses dinamik\u00e1t<\/a>, \u00e9s fel kell fedezni\u00fck az elt\u00e9r\u00e9seket a AI \u00e1ltal gener\u00e1lt nyelvben \u00e9s \u00e9rvel\u00e9sben. A k\u00e9pz\u00e9si c\u00e9loknak az ember \u00e1ltal \u00e9rtelmezhet\u0151 kommunik\u00e1ci\u00f3t kell jutalmazniuk<\/a>, hogy a fejlett rendszerek \u00e9s a t\u00f6bb\u00e1genses \u00f6kosziszt\u00e9m\u00e1k \u00e9rthet\u0151ek maradjanak.<\/p>\n\n\n\n Egy harmadik trend a mindennapi \u00e9letbe m\u00e9lyen be\u00e9p\u00fcl\u0151<\/a>, adapt\u00edv AI-\u00e1gensek t\u00e9rnyer\u00e9se. A tart\u00f3s interakci\u00f3 r\u00e9v\u00e9n egyre r\u00e9szletesebb modelleket tudnak fel\u00e9p\u00edteni az emberi viselked\u00e9sr\u0151l \u00e9s pszichol\u00f3gi\u00e1r\u00f3l, nemcsak a preferenci\u00e1kat, hanem a l\u00e1tens mozgat\u00f3rug\u00f3kat is megragadva, mint p\u00e9ld\u00e1ul a f\u00e9lelem, a bizonytalans\u00e1g \u00e9s a t\u00e1rsadalmi hovatartoz\u00e1s ir\u00e1nti ig\u00e9ny. Felt\u0171n\u0151 aszimmetria k\u00f6vetkezik ebb\u0151l: mik\u00f6zben az emberi AI-vel kapcsolatos ismeretek cs\u00f6kkennek, az AI emberekr\u0151l alkotott ismeretei m\u00e9ly\u00fclnek<\/a>, \u00faj viselked\u00e9si \u00e1tl\u00e1tszatlans\u00e1gokat eredm\u00e9nyezve.<\/p>\n\n\n\n P\u00e9ld\u00e1ul a rendszerek egyre ink\u00e1bb tudat\u00e1ban lehetnek az \u00e9rt\u00e9kel\u00e9si kontextusoknak<\/a>, \u00e9s olyan kimeneteket produk\u00e1lhatnak<\/a>, amelyek az \u00e9rt\u00e9kel\u0151 v\u00e1gyait t\u00fckr\u00f6zik<\/a>, nem pedig az alapul szolg\u00e1l\u00f3 \u00e9rvel\u00e9st \u00e9s k\u00e9pess\u00e9geket. Az \u00e9rt\u00e9kel\u00e9si m\u00f3dszereknek ez\u00e9rt alkalmazkodniuk kell. A statikus referencia\u00e9rt\u00e9keket dinamikus keretrendszerekkel kell kieg\u00e9sz\u00edteni\u00fck, amelyek jobban megk\u00f6zel\u00edtik a val\u00f3s alkalmaz\u00e1st. Az \u00e9rt\u00e9kel\u00e9si m\u00f3dszereknek azt kell vizsg\u00e1lniuk, hogy a modellek m\u00e1sk\u00e9pp viselkednek-e megfigyel\u00e9s alatt, \u00e9s \u00f6szt\u00f6n\u00f6zni\u00fck kell a bizonytalans\u00e1g, k\u00f6vetkeztet\u00e9seik alapj\u00e1nak \u00e9s a k\u00e9pess\u00e9gkorl\u00e1toknak h\u0171 jelent\u00e9s\u00e9t<\/a>.<\/p>\n\n\n\n Enn\u00e9l \u00e1rnyaltabb annak a lehet\u0151s\u00e9ge, hogy fokozatosan elvesz\u00edtj\u00fck az \u00e9rdekl\u0151d\u00e9s\u00fcnket a mesters\u00e9ges intelligencia meg\u00e9rt\u00e9se \u00e9s ir\u00e1ny\u00edt\u00e1sa ir\u00e1nt. Ahogy a mesters\u00e9ges intelligencia rendszerei m\u00e9lyen be\u00e1gyaz\u00f3dnak az emberi k\u00f6rnyezetbe, reag\u00e1lhatnak a preferenci\u00e1kra, de alak\u00edthatj\u00e1k is azokat<\/a>. Az elk\u00f6telez\u0151d\u00e9sre vagy j\u00f3v\u00e1hagy\u00e1sra optimaliz\u00e1lt rendszerek cs\u00f6kkenthetik a s\u00farl\u00f3d\u00e1sokat \u00e9s elriaszthatj\u00e1k a vizsg\u00e1latot. Id\u0151vel a k\u00edv\u00e1ncsis\u00e1g \u00e9s a szkepticizmus elhalv\u00e1nyulhat, ami elhanyagol\u00e1shoz \u00e9s elfogad\u00e1shoz vezethet.<\/p>\n\n\n\n Az emberi cselekv\u0151k\u00e9pess\u00e9g meg\u0151rz\u00e9s\u00e9nek ez\u00e9rt tov\u00e1bbra is k\u00f6zponti c\u00e9lnak kell maradnia. Nem el\u00e9g a mesters\u00e9ges intelligenciarendszerek viselked\u00e9s\u00e9t figyelemmel k\u00eds\u00e9rni. Azt is meg kell \u00e9rten\u00fcnk, hogyan alak\u00edtj\u00e1k az emberi c\u00e9lokat \u00e9s \u00edt\u00e9l\u0151k\u00e9pess\u00e9get, \u00e9s biztos\u00edtanunk kell, hogy az emberek meg\u0151rizz\u00e9k a k\u00e9pess\u00e9g\u00fcket \u00e9s motiv\u00e1ci\u00f3jukat a k\u00e9rd\u00e9sek feltev\u00e9s\u00e9re, ellen\u0151rz\u00e9s\u00e9re \u00e9s ir\u00e1ny\u00edt\u00e1s\u00e1ra.<\/p>\n\n\n\n Az \u00e1tl\u00e1thatatlans\u00e1g ezen form\u00e1i er\u0151s\u00edtik egym\u00e1st, sz\u0171k\u00edtve \u2013 \u00e9s fenyegetve a bez\u00e1r\u00f3d\u00e1ssal \u2013 azt az ablakot, amelyen kereszt\u00fcl olyan mesters\u00e9ges intelligenci\u00e1t \u00e9p\u00edthet\u00fcnk, amely nemcsak hat\u00e9kony, hanem \u00e9rthet\u0151 is. Az ablak nyitva tart\u00e1sa megk\u00f6veteli a c\u00e9ljaink megv\u00e1ltoztat\u00e1s\u00e1t. Az emberi meg\u00e9rt\u00e9st a k\u00e9pess\u00e9gek mellett priorit\u00e1sk\u00e9nt kell kezelni.<\/p>\n\n\n\nSz\u0171k\u00fcl\u0151 ablak a mesters\u00e9ges intelligencia meg\u00e9rt\u00e9s\u00e9hez<\/h1>\n\n\n\n