\u00dagy m\u00e9g a Skynetb\u0151l sem lesz semmi, ha az eg\u00e9sz modell m\u00e9g a vil\u00e1gh\u00f3d\u00edt\u00e1s el\u0151tt \u00f6sszeomlik.<\/p>\n\n\n\n
A kutat\u00f3k arra figyelmeztetnek, hogy a mesters\u00e9ges intelligencia (MI) rendszerek \u00e9rtelmetlen eredm\u00e9nyeket produk\u00e1lhatnak, m\u00e9ghozz\u00e1 ironikus m\u00f3d \u00e9pp az\u00e9rt, mert az internet egyre ink\u00e1bb mesters\u00e9ges intelligencia \u00e1ltal gener\u00e1lt tartalommal tel\u00edt\u0151dik. A h\u00edrr\u0151l a The Independent sz\u00e1molt be. A jelens\u00e9g, amelyet \u201cmodell\u00f6sszeoml\u00e1snak\u201d neveznek, al\u00e1\u00e1shatja az olyan rendszerek hat\u00e9konys\u00e1g\u00e1t \u00e9s megb\u00edzhat\u00f3s\u00e1g\u00e1t, mint p\u00e9ld\u00e1ul az OpenAI ChatGPT-je.<\/p>\n\n\n\n
A sz\u00f6veggener\u00e1l\u00f3 mesters\u00e9ges intelligenci\u00e1k elterjed\u00e9se az \u00e1ltaluk l\u00e9trehozott online tartalom n\u00f6veked\u00e9s\u00e9hez vezetett. Ezeket az MI-eszk\u00f6z\u00f6ket az \u0151ket fejleszt\u0151 v\u00e1llalatok gyakran internetes forr\u00e1sokb\u00f3l sz\u00e1rmaz\u00f3 sz\u00f6vegekkel tan\u00edtj\u00e1k be, ami visszacsatol\u00e1si hurkot hoz l\u00e9tre. H\u00e1la azonban az egyre n\u00f6vekv\u0151, MI-gener\u00e1lt tartalomnak, a mesters\u00e9ges intelligencia imm\u00e1r a saj\u00e1t kimenet\u00e9n alapulva tanul. Azonban \u00edgy az eddig bev\u00e1lt visszacsatol\u00e1sos tanul\u00e1si modell gyorsan ronthatja az MI \u00e1ltal gener\u00e1lt tartalom min\u0151s\u00e9g\u00e9t, ami m\u00e9g tov\u00e1bb rontja a modell m\u0171k\u00f6d\u00e9s\u00e9t, \u00e9s ami v\u00e9g\u00fcl teljesen \u00e9rtelmetlen eredm\u00e9nyekhez vezethet.<\/p>\n\n\n\n
A modell\u00f6sszeoml\u00e1s alapja, hogy ahogy a mesters\u00e9ges intelligencia folyamatosan adatokat \u00e1ll\u00edt el\u0151, amelyeket azt\u00e1n \u00fajra felhaszn\u00e1lnak a tov\u00e1bbk\u00e9pz\u00e9shez, a ritk\u00e1bban el\u0151fordul\u00f3 adatelemek fokozatosan \u201celp\u00e1rolognak\u201d. Emily Wenger kutat\u00f3 egy anal\u00f3gi\u00e1val magyar\u00e1zta ezt: ha egy mesters\u00e9ges intelligencia-rendszert k\u00fcl\u00f6nf\u00e9le kutyafajt\u00e1k k\u00e9peivel k\u00e9peznek ki, de az adathalmaz kezdetben t\u00f6bb golden retrievert tartalmaz, a k\u00f6vetkez\u0151 k\u00e9pz\u00e9si ciklusok egyre ink\u00e1bb a golden retrieverekre fognak \u00f6sszpontos\u00edtani, m\u00edg v\u00e9g\u00fcl teljesen figyelmen k\u00edv\u00fcl hagyj\u00e1k a t\u00f6bbi fajt\u00e1t.<\/p>\n\n\n\n
A modell\u00f6sszeoml\u00e1snak nevezett jelens\u00e9g eddig is ismert volt, k\u00e9rd\u00e9s azonban, hogy mennyire \u00e9get\u0151 a probl\u00e9ma? Egy, a Nature foly\u00f3iratban publik\u00e1lt tanulm\u00e1ny szerint el\u00e9gg\u00e9.<\/p>\n\n\n\n
A friss tanulm\u00e1nyb\u00f3l ugyanis kider\u00fclt p\u00e9ld\u00e1ul, hogy egy k\u00f6z\u00e9pkori \u00e9p\u00edt\u00e9szetr\u0151l sz\u00f6veget gener\u00e1l\u00f3 mesters\u00e9ges intelligenciarendszer mind\u00f6ssze kilenc gener\u00e1ci\u00f3s rekurz\u00edv k\u00e9pz\u00e9s ut\u00e1n ism\u00e9tl\u0151d\u0151 \u00e9s irrelev\u00e1ns list\u00e1kat \u00e1ll\u00edtott el\u0151.<\/p>\n\n\n\n
Ez a hat\u00e1s a nagy nyelvi modellekn\u00e9l is megfigyelhet\u0151, mint p\u00e9ld\u00e1ul a ChatGPT \u00e9s a Google Gemini. A kutat\u00f3k olyan megold\u00e1sokat javasolnak, mint a mesters\u00e9ges intelligencia \u00e1ltal gener\u00e1lt tartalom v\u00edzjelez\u00e9se, hogy kisz\u0171rj\u00e9k azokat a k\u00e9pz\u00e9s sor\u00e1n. Az ilyen int\u00e9zked\u00e9sek hat\u00e9konys\u00e1ga azonban k\u00e9rd\u00e9ses, mivel a v\u00edzjelek k\u00f6nnyen elt\u00e1vol\u00edthat\u00f3k, \u00e9s a mesters\u00e9ges intelligencia v\u00e1llalatok gyakran ellen\u00e1llnak b\u00e1rmif\u00e9le, az egy\u00fcttm\u0171k\u00f6d\u00e9sre tett pr\u00f3b\u00e1lkoz\u00e1snak.<\/p>\n\n\n\n
Mindez azonban egy m\u00e1sik k\u00f6vetkezm\u00e9nnyel is j\u00e1r: azok a korai MI-v\u00e1llalatok ker\u00fclhetnek versenyel\u0151nybe, amelyek rendelkeznek kor\u00e1bbi, ember \u00e1ltal gener\u00e1lt adatokkal \u2013 az \u0151 MI-rendszereik ugyanis k\u00f6nnyebben \u0151rzik meg a min\u0151s\u00e9g\u00fcket, mint azok a c\u00e9gek, amelyek a modelljeiket imm\u00e1r egy MI-t\u0151l er\u0151sen szennyezett interneten pr\u00f3b\u00e1lj\u00e1k betan\u00edtani.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u00dagy m\u00e9g a Skynetb\u0151l sem lesz semmi, ha az eg\u00e9sz modell m\u00e9g a vil\u00e1gh\u00f3d\u00edt\u00e1s el\u0151tt \u00f6sszeomlik. A kutat\u00f3k arra figyelmeztetnek,…<\/p>\n","protected":false},"author":1,"featured_media":1012,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":["post-1011","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-agi-chat-gpt-gemini"],"_links":{"self":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/1011","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1011"}],"version-history":[{"count":1,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/1011\/revisions"}],"predecessor-version":[{"id":1013,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/1011\/revisions\/1013"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/media\/1012"}],"wp:attachment":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1011"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1011"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1011"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}