{"id":6473,"date":"2026-02-08T00:34:39","date_gmt":"2026-02-07T22:34:39","guid":{"rendered":"https:\/\/digitalnews.hu\/?p=6473"},"modified":"2026-02-08T00:34:39","modified_gmt":"2026-02-07T22:34:39","slug":"az-emberiseg-es-a-mesterseges-intelligencia-apokalipszise-kozott-csak-claude-all","status":"publish","type":"post","link":"https:\/\/digitalnews.hu\/?p=6473","title":{"rendered":"Az emberis\u00e9g \u00e9s a mesters\u00e9ges intelligencia apokalipszise k\u00f6z\u00f6tt csak\u2026 Claude \u00e1ll?"},"content":{"rendered":"\n

Ahogy a mesters\u00e9ges intelligencia rendszerei egyre er\u0151sebbek lesznek, az Anthropic rezidens filoz\u00f3fusa szerint a startup arra fogad, hogy Claude maga is elsaj\u00e1t\u00edthatja a katasztr\u00f3fa elker\u00fcl\u00e9s\u00e9hez sz\u00fcks\u00e9ges b\u00f6lcsess\u00e9get.<\/p>\n\n\n\n

Az Anthropic paradoxonban van: A vezet\u0151 mesters\u00e9ges intelligencia c\u00e9gek k\u00f6z\u00fcl a legink\u00e1bb a biztons\u00e1g megsz\u00e1llottja, \u00e9s vezet\u0151 szerepet t\u00f6lt be a modellek meghib\u00e1sod\u00e1s\u00e1nak okait kutatva. De b\u00e1r az \u00e1ltala azonos\u00edtott biztons\u00e1gi probl\u00e9m\u00e1k messze nem old\u00f3dtak meg, az Anthropic ugyanolyan agressz\u00edvan t\u00f6rekszik a mesters\u00e9ges intelligencia k\u00f6vetkez\u0151, potenci\u00e1lisan vesz\u00e9lyesebb szintje fel\u00e9, mint versenyt\u00e1rsai. F\u0151 k\u00fcldet\u00e9se ennek az ellentmond\u00e1snak a felold\u00e1sa.<\/p>\n\n\n\n

A m\u00falt h\u00f3napban az Anthropic k\u00e9t dokumentumot tett k\u00f6zz\u00e9, amelyek mind elismert\u00e9k az \u00e1ltala k\u00f6vetett \u00fattal j\u00e1r\u00f3 kock\u00e1zatokat, mind pedig utaltak egy olyan \u00fatvonalra, amelyen kereszt\u00fcl kiker\u00fclhetik a paradoxont. Dario Amodei vez\u00e9rigazgat\u00f3 hossz\u00fa blogbejegyz\u00e9se, a \u201e The Adolescence of Technology<\/a> \u201d n\u00e9vleg a \u201enagy teljes\u00edtm\u00e9ny\u0171 mesters\u00e9ges intelligencia kock\u00e1zatainak lek\u00fczd\u00e9s\u00e9r\u0151l\u201d sz\u00f3l, de t\u00f6bb id\u0151t szentel az el\u0151bbinek, mint az ut\u00f3bbinak. Amodei tapintatosan \u201eijeszt\u0151nek\u201d nevezi a kih\u00edv\u00e1st, de a mesters\u00e9ges intelligencia kock\u00e1zatainak \u00e1br\u00e1zol\u00e1sa \u2013 amelyet, mint megjegyzi, sokkal s\u00falyosabb\u00e1 tesz az a nagy val\u00f3sz\u00edn\u0171s\u00e9g, hogy az autoriterek vissza\u00e9lnek a technol\u00f3gi\u00e1val \u2013 ellent\u00e9tben \u00e1ll kor\u00e1bbi, optimist\u00e1bb proto-ut\u00f3pikus essz\u00e9j\u00e9vel, a \u201e Machines of Loving Grace<\/a> \u201d-szal.<\/p>\n\n\n\n

A bejegyz\u00e9s egy adatk\u00f6zpontban \u00e9l\u0151 zseni\u00e1lis nemzetr\u0151l sz\u00f3lt; a legut\u00f3bbi h\u00edr a \u201ev\u00e9gtelen fekete tengereit\u201d id\u00e9zi. Dante-t keresem! Amodei m\u00e9gis, t\u00f6bb mint 20 000, t\u00f6bbnyire komor sz\u00f3 ut\u00e1n, v\u00e9g\u00fcl optimizmusra hallgat, mondv\u00e1n, hogy m\u00e9g a legs\u00f6t\u00e9tebb k\u00f6r\u00fclm\u00e9nyek k\u00f6z\u00f6tt is az emberis\u00e9g mindig gy\u0151zedelmeskedett.<\/p>\n\n\n\n

Az Anthropic \u00e1ltal janu\u00e1rban publik\u00e1lt m\u00e1sodik dokumentum, a \u201e Claude alkotm\u00e1nya<\/a> \u201d arra \u00f6sszpontos\u00edt, hogyan lehetne megval\u00f3s\u00edtani ezt a tr\u00fckk\u00f6t. A sz\u00f6veg technikailag egyetlen k\u00f6z\u00f6ns\u00e9gnek sz\u00f3l: mag\u00e1nak Claude-nak (valamint a chatbot j\u00f6v\u0151beli verzi\u00f3inak). Ez egy lebilincsel\u0151 dokumentum, amely felt\u00e1rja az Anthropic elk\u00e9pzel\u00e9s\u00e9t arr\u00f3l, hogy a Claude, \u00e9s tal\u00e1n a mesters\u00e9ges intelligencia alap\u00fa t\u00e1rsai, hogyan fogj\u00e1k eligazodni a vil\u00e1g kih\u00edv\u00e1sai k\u00f6z\u00f6tt. A l\u00e9nyeg: Az Anthropic azt tervezi, hogy mag\u00e1ra a Claude-ra t\u00e1maszkodik a v\u00e1llalati gordiuszi csom\u00f3 kibogoz\u00e1s\u00e1ban.<\/p>\n\n\n\n

Az Anthropic piaci megk\u00fcl\u00f6nb\u00f6ztet\u0151 jegye r\u00e9g\u00f3ta az Alkotm\u00e1nyos AI<\/a> nev\u0171 technol\u00f3gia . Ez egy olyan folyamat, amelynek sor\u00e1n modelljei olyan alapelvekhez igazodnak, amelyek \u00f6sszhangban vannak az \u00e9rt\u00e9keikkel \u00e9s az eg\u00e9szs\u00e9ges emberi etik\u00e1val. A Claude kezdeti alkotm\u00e1nya sz\u00e1mos dokumentumot tartalmazott, amelyek c\u00e9lja ezen \u00e9rt\u00e9kek megtestes\u00edt\u00e9se volt \u2013 olyanok, mint a Sparrow (a DeepMind \u00e1ltal l\u00e9trehozott rasszizmus- \u00e9s er\u0151szakellenes nyilatkozatok gy\u0171jtem\u00e9nye), az Emberi Jogok Egyetemes Nyilatkozata \u00e9s az Apple szolg\u00e1ltat\u00e1si felt\u00e9telei (!). A 2026-os friss\u00edtett verzi\u00f3 m\u00e1s: ink\u00e1bb egy hossz\u00fa felh\u00edv\u00e1s, amely felv\u00e1zolja azt az etikai keretrendszert, amelyet Claude k\u00f6vetni fog, \u00e9s \u00f6n\u00e1ll\u00f3an felfedezi az igazs\u00e1goss\u00e1ghoz vezet\u0151 legjobb utat.<\/p>\n\n\n\n

Amanda Askell, a filoz\u00f3fia doktora, aki a rev\u00edzi\u00f3 vezet\u0151 szerz\u0151je volt, elmagyar\u00e1zza, hogy az Anthropic megk\u00f6zel\u00edt\u00e9se er\u0151teljesebb ann\u00e1l, mint hogy egyszer\u0171en azt mondjuk Claude-nak, hogy k\u00f6vessen egy sor kimondott szab\u00e1lyt. \u201eHa az emberek csak az\u00e9rt k\u00f6vetik a szab\u00e1lyokat, mert l\u00e9teznek, az gyakran rosszabb, mintha meg\u00e9rten\u00e9d, mi\u00e9rt van \u00e9rv\u00e9nyben a szab\u00e1ly\u201d \u2013 magyar\u00e1zza Askell. Az alkotm\u00e1ny kimondja, hogy Claude-nak \u201ef\u00fcggetlen \u00edt\u00e9l\u0151k\u00e9pess\u00e9get\u201d kell gyakorolnia olyan helyzetekben, amelyek megk\u00f6vetelik a seg\u00edt\u0151k\u00e9szs\u00e9g, a biztons\u00e1g \u00e9s az \u0151szintes\u00e9g k\u00f6z\u00f6tti egyens\u00falyoz\u00e1st.<\/p>\n\n\n\n

\u00cdgy fogalmaz az alkotm\u00e1ny: \u201eM\u00edg azt szeretn\u00e9nk, hogy Claude \u00e9sszer\u0171 \u00e9s szigor\u00fa legyen, amikor explicit m\u00f3don gondolkodik az etik\u00e1r\u00f3l, azt is szeretn\u00e9nk, hogy Claude intuit\u00edven \u00e9rz\u00e9keny legyen a szempontok sz\u00e9les sk\u00e1l\u00e1j\u00e1ra, \u00e9s k\u00e9pes legyen ezeket a szempontokat gyorsan \u00e9s \u00e9sszer\u0171en m\u00e9rlegelni az \u00e9l\u0151 d\u00f6nt\u00e9shozatal sor\u00e1n.\u201d Az \u201eintuit\u00edvan \u201d sz\u00f3haszn\u00e1lat sokatmond\u00f3 \u2013 a felt\u00e9telez\u00e9s az, hogy Claude motorh\u00e1ztet\u0151je m\u00f6g\u00f6tt t\u00f6bb van, mint puszt\u00e1n egy algoritmus, amely kiv\u00e1lasztja a k\u00f6vetkez\u0151 sz\u00f3t. A \u201eClaude-int\u00e9zm\u00e9ny\u201d, ahogy nevezhetn\u00e9nk, azt a rem\u00e9nyt is kifejezi, hogy a chatbot \u201eegyre ink\u00e1bb a saj\u00e1t b\u00f6lcsess\u00e9g\u00e9re \u00e9s meg\u00e9rt\u00e9s\u00e9re t\u00e1maszkodhat\u201d.<\/p>\n\n\n\n

B\u00f6lcsess\u00e9g? Persze, sokan fogadj\u00e1k meg a nagy nyelvi modellek tan\u00e1csait, de eg\u00e9szen m\u00e1s dolog azt \u00e1ll\u00edtani, hogy ezek az algoritmikus eszk\u00f6z\u00f6k val\u00f3ban rendelkeznek az ilyen kifejez\u00e9sekhez t\u00e1rs\u00edtott komolys\u00e1ggal. Askell nem h\u00e1tr\u00e1l meg, amikor ezt megeml\u00edtem. \u201eAzt hiszem, Claude k\u00e9pes egy bizonyos fajta b\u00f6lcsess\u00e9gre\u201d \u2013 mondja nekem.<\/p>\n\n\n\n

\u00c9rvel\u00e9s\u00e9nek al\u00e1t\u00e1maszt\u00e1s\u00e1ra Askell egy egyszer\u0171 biztons\u00e1gi probl\u00e9m\u00e1ra vonatkoz\u00f3 p\u00e9ld\u00e1t hozott fel. Az emberek term\u00e9szetesen nem akarj\u00e1k, hogy Claude k\u00e1ros eszk\u00f6z\u00f6kkel ruh\u00e1zza fel a rosszindulat\u00fa szerepl\u0151ket. De sz\u00e9ls\u0151s\u00e9ges esetben az ilyen \u00f3vatoss\u00e1g korl\u00e1tozhatja Claude hasznoss\u00e1g\u00e1t, vagyis a \u201ehasznoss\u00e1g\u00e1t\u201d. Vegy\u00fck p\u00e9ld\u00e1ul egy leend\u0151 k\u00e9zm\u0171ves eset\u00e9t, aki egy \u00fajfajta ac\u00e9lb\u00f3l szeretne k\u00e9st k\u00e9sz\u00edteni. Els\u0151 l\u00e1t\u00e1sra nincs ezzel semmi baj, \u00e9s Claude-nak seg\u00edtenie kellene. De ha az a szem\u00e9ly kor\u00e1bban eml\u00edtette, hogy meg akarja \u00f6lni a h\u00fag\u00e1t, Claude-nak ezt figyelembe kell vennie, \u00e9s hangot kell adnia az agg\u00e1lyainak. Nincs azonban szigor\u00fa szab\u00e1lyk\u00f6nyv, amely megmondan\u00e1, hogy mikor kell a h\u00fcvely\u00e9be tenni az ilyen inform\u00e1ci\u00f3s t\u0151rt.<\/p>\n\n\n\n

K\u00e9pzelj\u00fcnk el egy m\u00e1sik esetet, amikor Claude \u00e9rtelmezi a felhaszn\u00e1l\u00f3 orvosi t\u00fcneteit \u00e9s teszteredm\u00e9nyeit, \u00e9s arra a k\u00f6vetkeztet\u00e9sre jut, hogy a szem\u00e9ly hal\u00e1los betegs\u00e9gben szenved. Hogyan kellene ezt kezelni? Askell felt\u00e9telez\u00e9se szerint Claude d\u00f6nthet \u00fagy, hogy tart\u00f3zkodik a h\u00edr k\u00f6zl\u00e9s\u00e9t\u0151l, de arra \u00f6szt\u00f6nzi a szem\u00e9lyt, hogy forduljon orvoshoz. Vagy \u00fcgyesen ir\u00e1ny\u00edthatja a besz\u00e9lget\u00e9st \u00fagy, hogy a progn\u00f3zis a lehet\u0151 legenyh\u00e9bb f\u00e9lelem kelt\u00e9ssel t\u00f6rt\u00e9njen. Vagy kital\u00e1lhat egy jobb m\u00f3dot a rossz h\u00edr k\u00f6zl\u00e9s\u00e9re, mint amit m\u00e9g a legkedvesebb orvos is kidolgozott volna. V\u00e9g\u00fcl is az Anthropic azt akarja, hogy Claude ne csak megfeleljen az emberis\u00e9g legjobb impulzusainak, hanem t\u00fal is sz\u00e1rnyalja azokat. \u201eMegpr\u00f3b\u00e1ljuk r\u00e1venni Claude-ot, hogy legal\u00e1bbis jelenleg a legjobb tud\u00e1sunk szerint ut\u00e1nozza\u201d \u2013 mondja Askell. \u201eJelenleg majdnem ott tartunk, hogyan lehet olyan modelleket l\u00e9trehozni, amelyek megfelelnek az emberek legjobbjainak. Valamikor Claude m\u00e9g enn\u00e9l is jobb lesz.\u201d<\/p>\n\n\n\n

Ha az Anthropicnak siker\u00fcl ezt a brav\u00fart megval\u00f3s\u00edtania, az feloldhatja azt a kulcsfontoss\u00e1g\u00fa ellentmond\u00e1st, amely szinte az \u00f6sszes MI-laborat\u00f3riumot \u00e9s -c\u00e9get s\u00fajtja: Ha azt gondolod, hogy ez a technol\u00f3gia annyira vesz\u00e9lyes, akkor mi\u00e9rt \u00e9p\u00edted? Az Anthropic sz\u00e1m\u00e1ra a v\u00e1lasz: Claude-ban b\u00edzunk. Claude \u00faj alkotm\u00e1nya a modell b\u00f6lcsess\u00e9ghez vezet\u0151 j\u00f6v\u0151beli \u00fatj\u00e1t szinte egy h\u0151s k\u00fcldet\u00e9s\u00e9hez hasonl\u00f3an t\u00e1rgyalja. Megd\u00f6bbent\u0151en sok sz\u00f3t haszn\u00e1lnak arra, hogy Claude-ot erk\u00f6lcsi l\u00e9nyk\u00e9nt kezelj\u00e9k, akinek j\u00f3l\u00e9te tiszteletet k\u00f6vetel. Ez Dr. Seuss klasszikus k\u00f6nyv\u00e9re, az \u00d3, ahov\u00e1 eljutsz! -ra eml\u00e9keztet , a felemel\u0151 k\u00f6tetre, amelyet gyakran aj\u00e1nd\u00e9koznak a frissen v\u00e9gzett diplom\u00e1sok.<\/p>\n\n\n\n

Amikor ezt megeml\u00edtem Askellnek, pontosan tudja, mire gondolok. \u201eOlyan, mintha azt mondan\u00e1m: \u00bbItt van Claude\u00ab\u201d \u2013 mondja. \u201eMegcsin\u00e1ltuk ezt a r\u00e9szt, a lehet\u0151 legt\u00f6bb kontextust adtuk Claude-nak, azt\u00e1n pedig folytat\u00f3dnia kell, interakci\u00f3ba kell l\u00e9pnie az emberekkel, \u00e9s dolgokat kell tennie.\u201d<\/p>\n\n\n\n

Az Anthropic nem egyed\u00fcl azt sugallja, hogy az emberis\u00e9g j\u00f6v\u0151je a mesters\u00e9ges intelligencia modelljeinek b\u00f6lcsess\u00e9g\u00e9t\u0151l f\u00fcgghet. Sam Altman, az OpenAI vez\u00e9rigazgat\u00f3ja egy \u00faj magazinprofilban \u00fagy v\u00e9lekedett , hogy a v\u00e1llalat ut\u00f3dl\u00e1si terve az, hogy a vezet\u00e9st egy j\u00f6v\u0151beli mesters\u00e9ges intelligencia modellnek adj\u00e1k \u00e1t. Nemr\u00e9giben a WIRED riporter\u00e9nek, Max Ziffnek elmondta, hogy a hatalom g\u00e9pekre val\u00f3 \u00e1tad\u00e1sa r\u00e9g\u00f3ta a terve, \u00e9s a mesters\u00e9ges intelligencia k\u00f3dol\u00e1s\u00e1ban el\u00e9rt leg\u00fajabb fejleszt\u00e9sek csak meger\u0151s\u00edtett\u00e9k az \u00f6nbizalm\u00e1t. \u201eEz mindenk\u00e9ppen arra k\u00e9sztetett, hogy arra gondoljak, hogy egy kicsit kor\u00e1bban adom \u00e1t a dolgokat egy mesters\u00e9ges intelligencia vez\u00e9rigazgat\u00f3j\u00e1nak\u201d \u2013 mondta Altman. \u201eSok olyan dolgot tud megcsin\u00e1lni egy mesters\u00e9ges intelligencia vez\u00e9rigazgat\u00f3ja, amit egy emberi vez\u00e9rigazgat\u00f3 nem.\u201d<\/p>\n\n\n\n

K\u00e9rj\u00fck, vegye figyelembe, hogy ez az optimista n\u00e9zet a j\u00f6v\u0151r\u0151l. Ebben a v\u00edzi\u00f3ban egy napon a f\u0151n\u00f6keink robotok lesznek, \u00e9s \u0151k ir\u00e1ny\u00edtj\u00e1k majd a v\u00e1llalatokat, s\u0151t tal\u00e1n a korm\u00e1nyokat is a holnap komplex, mesters\u00e9ges intelligencia \u00e1ltal vez\u00e9relt vil\u00e1g\u00e1ban. N\u00e9h\u00e1ny d\u00f6nt\u00e9s\u00fck k\u00f6nnyen emberi munkav\u00e1llal\u00f3k \u00e1lland\u00f3 fizet\u00e9s n\u00e9lk\u00fcli elbocs\u00e1t\u00e1s\u00e1t vonhatja maga ut\u00e1n. De ha ezeket a fels\u0151vezet\u0151i szint\u0171 mesters\u00e9ges intelligencia modelleket Claude alkotm\u00e1nya vez\u00e9rli, akkor sokkal empatikusabban fogj\u00e1k k\u00f6z\u00f6lni a szomor\u00fa h\u00edrt az alkalmazottakkal, mint mondjuk a The Washington Post kiad\u00f3ja tette ezen a h\u00e9ten, amikor nem jelent meg a Zoom-h\u00edv\u00e1son, amelyben t\u00f6bb sz\u00e1z \u00fajs\u00e1g\u00edr\u00f3t t\u00e1j\u00e9koztatott arr\u00f3l, hogy m\u00e1r nincs r\u00e1juk sz\u00fcks\u00e9g.<\/p>\n\n\n\n

A pesszimista n\u00e9zet szerint a mesters\u00e9ges intelligencia modelljeink fejleszt\u0151inek legjobb er\u0151fesz\u00edt\u00e9sei ellen\u00e9re sem lesznek el\u00e9g b\u00f6lcsek, \u00e9rz\u00e9kenyek vagy \u0151szint\u00e9k ahhoz, hogy ellen\u00e1lljanak a rossz sz\u00e1nd\u00e9k\u00fa emberek manipul\u00e1ci\u00f3j\u00e1nak, vagy tal\u00e1n maguk a modellek fognak vissza\u00e9lni az \u00e1ltalunk nekik biztos\u00edtott auton\u00f3mi\u00e1val. Ak\u00e1r tetszik, ak\u00e1r nem, de k\u00e9szen \u00e1llunk erre. Az Anthropicnak legal\u00e1bb van terve.<\/p>\n\n\n\n

Tov\u00e1bb a cikkre:<\/mark> wired.com<\/a> (Steven Levy)<\/p>\n","protected":false},"excerpt":{"rendered":"

Ahogy a mesters\u00e9ges intelligencia rendszerei egyre er\u0151sebbek lesznek, az Anthropic rezidens filoz\u00f3fusa szerint a startup arra fogad, hogy Claude maga…<\/p>\n","protected":false},"author":1,"featured_media":6474,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":["post-6473","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-agi-chat-gpt-gemini"],"_links":{"self":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/6473","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=6473"}],"version-history":[{"count":1,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/6473\/revisions"}],"predecessor-version":[{"id":6475,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/6473\/revisions\/6475"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/media\/6474"}],"wp:attachment":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=6473"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=6473"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=6473"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}