A filoz\u00f3fus szerint az embereknek a fejlett AI-t \u00e9s a \u201emegoldott vil\u00e1g\u201d \u00edg\u00e9ret\u00e9t kellene k\u00f6vetni\u00fck.<\/p>\n\n\n\n
Nick Bostrom filoz\u00f3fus nemr\u00e9giben k\u00f6zz\u00e9tett egy tanulm\u00e1nyt, amelyben azt felt\u00e9telezte, hogy annak kis es\u00e9lye, hogy az AI megsemmis\u00edti az emberis\u00e9get, meg\u00e9ri a kock\u00e1zatot, mivel a fejlett AI felmentheti az emberis\u00e9get az \u201eegyetemes hal\u00e1los \u00edt\u00e9let\u201d al\u00f3l. Ez a der\u0171l\u00e1t\u00f3 kock\u00e1zat jelent\u0151s elt\u00e9r\u00e9s az AI-val kapcsolatos kor\u00e1bbi s\u00f6t\u00e9t elm\u00e9lked\u00e9seihez k\u00e9pest, amelyek v\u00e9gzetes keresztap\u00e1v\u00e1 tett\u00e9k. 2014-es Superintelligence (Szuperintelligencia) c\u00edm\u0171 k\u00f6nyve az AI egzisztenci\u00e1lis kock\u00e1zat\u00e1nak korai vizsg\u00e1lata volt. <\/p>\n\n\n\n
Egy eml\u00e9kezetes gondolatk\u00eds\u00e9rlet: Egy gemkapcsok k\u00e9sz\u00edt\u00e9s\u00e9vel megb\u00edzott AI v\u00e9g\u00fcl elpuszt\u00edtja az emberis\u00e9get, mert az \u00f6sszes er\u0151forr\u00e1sra szorul\u00f3 ember akad\u00e1lyozza a gemkapocsgy\u00e1rt\u00e1st. \u00dajabb k\u00f6nyve, a Deep Utopia (M\u00e9ly ut\u00f3pia) a f\u00f3kusz\u00e1nak eltol\u00f3d\u00e1s\u00e1t t\u00fckr\u00f6zi . Bostrom, az Oxfordi Emberis\u00e9g J\u00f6v\u0151je Int\u00e9zet vezet\u0151je, a \u201emegoldott vil\u00e1gr\u00f3l\u201d \u00edr, amely akkor j\u00f6n el, ha j\u00f3l csin\u00e1ljuk az AI-t.<\/p>\n\n\n\n
Steven Lev\u00ed: A M\u00e9ly ut\u00f3pia optimist\u00e1bb, mint az el\u0151z\u0151 k\u00f6nyved. Mi v\u00e1ltozott benned?<\/p>\n\n\n\n
Nick Bostrom: Agg\u00f3d\u00f3 optimist\u00e1nak nevezem magam. Nagyon izgatott vagyok az emberi \u00e9let radik\u00e1lis jav\u00edt\u00e1s\u00e1nak \u00e9s civiliz\u00e1ci\u00f3nk lehet\u0151s\u00e9geinek felt\u00e1r\u00e1sa miatt. Ez \u00f6sszhangban van azzal a val\u00f3s lehet\u0151s\u00e9ggel, hogy a dolgok rosszul mennek.<\/p>\n\n\n\n
Megh\u00f6kkent\u0151 \u00e9rvel\u00e9ssel \u00edrt\u00e1l egy cikket: Mivel \u00fagyis mindannyian meg fogunk halni, a legrosszabb, ami az AI-al t\u00f6rt\u00e9nhet, az az, hogy hamarabb meghalunk. De ha az AI bev\u00e1lik, meghosszabb\u00edthatja az \u00e9let\u00fcnket, tal\u00e1n a v\u00e9gtelens\u00e9gig.<\/p>\n\n\n\n
Ez a tanulm\u00e1ny kifejezetten csak egyetlen aspektus\u00e1t vizsg\u00e1lja. Egyetlen tudom\u00e1nyos dolgozatban sem lehet az \u00e9lettel, a vil\u00e1gegyetemmel \u00e9s mindennek a jelent\u00e9s\u00e9vel foglalkozni. Teh\u00e1t n\u00e9zz\u00fck meg ezt a kis probl\u00e9m\u00e1t, \u00e9s pr\u00f3b\u00e1ljuk meg megv\u00e1laszolni.<\/p>\n\n\n\n
Ez nem kis probl\u00e9ma.<\/p>\n\n\n\n
Azt hiszem, bosszantottak azok az \u00e9rvek, amelyeket a v\u00e9gzetp\u00e1rtiak hangoztatnak, hogy ha az AI \u00e9p\u00edtesz, meg\u00f6lsz engem \u00e9s a gyerekeimet, \u00e9s hogy mer\u00e9szeled ezt. Mint p\u00e9ld\u00e1ul a nemr\u00e9g megjelent k\u00f6nyv, a ” Ha b\u00e1rki meg\u00e9p\u00edti, mindenki meghal” c\u00edm\u0171 . M\u00e9g val\u00f3sz\u00edn\u0171bb, hogy ha senki sem \u00e9p\u00edti meg, mindenki meghal! Ez volt a tapasztalat az elm\u00falt 100 000 \u00e9vben.<\/p>\n\n\n\n
De a v\u00e9gzetes forgat\u00f3k\u00f6nyvben mindenki meghal, \u00e9s nem sz\u00fcletik t\u00f6bb ember. Nagy k\u00fcl\u00f6nbs\u00e9g.<\/p>\n\n\n\n
Nyilv\u00e1nval\u00f3an nagyon agg\u00f3dtam emiatt. De ebben a tanulm\u00e1nyban egy m\u00e1sik k\u00e9rd\u00e9st vizsg\u00e1lok, m\u00e9gpedig azt, hogy mi lenne a legjobb a jelenleg l\u00e9tez\u0151 emberi popul\u00e1ci\u00f3nak, mint nek\u00fcnk, a csal\u00e1djainknak \u00e9s a bangladesi embereknek? \u00dagy t\u0171nik, hogy a v\u00e1rhat\u00f3 \u00e9lettartamunk emelkedne, ha kifejleszten\u00e9nk az AI-t, m\u00e9g ha az meglehet\u0151sen kock\u00e1zatos is.<\/p>\n\n\n\n
A M\u00e9ly ut\u00f3pi\u00e1ban azon spekul\u00e1lsz, hogy az AI hihetetlen b\u0151s\u00e9get teremthet, olyannyira, hogy az emberis\u00e9gnek hatalmas probl\u00e9m\u00e1ja lehet a c\u00e9l megtal\u00e1l\u00e1s\u00e1val. Az Egyes\u00fclt \u00c1llamokban \u00e9lek. Nagyon gazdag orsz\u00e1g vagyunk, de a korm\u00e1nyunk, l\u00e1tsz\u00f3lag az emberek t\u00e1mogat\u00e1s\u00e1val, olyan politik\u00e1t folytat, amely megtagadja a szolg\u00e1ltat\u00e1sokat a szeg\u00e9nyekt\u0151l, \u00e9s jutalmat oszt a gazdagoknak. \u00dagy gondolom, hogy m\u00e9g ha az AI k\u00e9pes is lenne mindenkinek b\u0151s\u00e9get biztos\u00edtani, akkor sem biztos\u00edtan\u00e1nk mindenkinek.<\/p>\n\n\n\n
Lehet, hogy igazad van. A M\u00e9ly Ut\u00f3pia kiindul\u00f3pontja az a felt\u00e9telez\u00e9s, hogy minden rendk\u00edv\u00fcl j\u00f3l megy. Ha viszonylag j\u00f3 munk\u00e1t v\u00e9gz\u00fcnk a korm\u00e1nyz\u00e1s ter\u00e9n, mindenki r\u00e9szes\u00fcl bel\u0151le. Meglehet\u0151sen m\u00e9ly filoz\u00f3fiai k\u00e9rd\u00e9s mer\u00fcl fel azzal kapcsolatban, hogy milyen lenne egy j\u00f3 emberi \u00e9let ilyen ide\u00e1lis k\u00f6r\u00fclm\u00e9nyek k\u00f6z\u00f6tt.<\/p>\n\n\n\n
Az \u00e9let \u00e9rtelm\u00e9r\u0151l sokat hallani Woody Allen filmjeiben \u00e9s tal\u00e1n a filoz\u00f3fusok k\u00f6z\u00f6ss\u00e9g\u00e9ben is. Engem jobban aggaszt, hogy mib\u0151l lesz k\u00e9pes fenntartani mag\u00e1t, \u00e9s r\u00e9szesed\u00e9st szerezni ebb\u0151l a b\u0151s\u00e9gb\u0151l.<\/p>\n\n\n\n
A k\u00f6nyv nem csak a jelent\u00e9sr\u0151l sz\u00f3l. Ez egy \u00e9rt\u00e9k a sok k\u00f6z\u00fcl, amit figyelembe vesz. Ez csod\u00e1latos emancip\u00e1ci\u00f3 lehet az emberis\u00e9g kiszolg\u00e1ltatotts\u00e1g\u00e1t\u00f3l. Ha feln\u0151ttk\u00e9nt mondjuk az \u00e9bren t\u00f6lt\u00f6tt \u00f3r\u00e1id fel\u00e9t fel kell adnod csak az\u00e9rt, hogy meg\u00e9lj, olyan munk\u00e1t v\u00e9gezve, amit nem \u00e9lvezel, \u00e9s amiben nem hiszel, az egy szomor\u00fa \u00e1llapot. A t\u00e1rsadalom annyira hozz\u00e1szokott ehhez, hogy mindenf\u00e9le racionaliz\u00e1l\u00e1st kital\u00e1ltunk k\u00f6r\u00e9. Olyan, mint a rabszolgas\u00e1g r\u00e9szleges form\u00e1ja.
Amikor elj\u00f6n a pillanat, amikor az AI jobban \u00edr filoz\u00f3fiai dolgozatokat, mint te, vajon elvesz\u00edted-e a l\u00e9tez\u00e9sedb\u0151l a l\u00e9ted \u00e9rtelm\u00e9t<\/p>\n\n\n\n
Azt hiszem, igen. A k\u00e9pess\u00e9g, hogy valami nagyot hozzak a vil\u00e1gnak, vagy seg\u00edtsek megmenteni a vil\u00e1got, vagy biztos\u00edtsam, hogy a j\u00f6v\u0151 kiker\u00fclj\u00f6n a kezemb\u0151l, \u00e9s tal\u00e1n mindenki m\u00e1s kez\u00e9b\u0151l is.<\/p>\n\n\n\n
M\u00e1sr\u00e9szr\u0151l viszont egy ember \u00e1ltal \u00edrt filoz\u00f3fiai dolgozat \u00e9rt\u00e9kesebb lehet, mint egy sokkal okosabb, m\u00e9lyebb, nem ember \u00e1ltal \u00edrt filoz\u00f3fiai dolgozat, mert \u00e9n is ember vagyok, \u00e9s ez r\u00e1m vonatkozik.<\/p>\n\n\n\n
Gondolom, a filoz\u00f3fi\u00e1t lehetne egyfajta sportnak is tekinteni.<\/p>\n\n\n\n
Ez nem csak sport. Egy robot kijelent\u00e9sei nem annyira jelent\u0151s\u00e9gteljesek sz\u00e1momra, mint egy embert\u00e1rsam\u00e9.<\/p>\n\n\n\n
Azt hiszem, ugyanez a helyzet akkor is, ha egy olyan karrier ut\u00e1n vonulsz nyugd\u00edjba, ami ir\u00e1nt szenved\u00e9lyesen \u00e9rdekl\u0151dsz, \u00e9s amiben \u00fagy \u00e9rzed, j\u00f3 is vagy. Tal\u00e1n nagyszer\u0171 nyugd\u00edjas \u00e9veid lesznek, \u00e9lvezed a pihen\u00e9st, a k\u00f6nyvek olvas\u00e1s\u00e1t, amikre jut id\u0151d, \u00e9s az unok\u00e1iddal val\u00f3 j\u00e1t\u00e9kot, de val\u00f3sz\u00edn\u0171leg m\u00e9g mindig van valami, ami hi\u00e1nyzik, ami elveszettnek \u00e9rzed. Tal\u00e1n ez anal\u00f3g lesz az emberis\u00e9g nagy nyugd\u00edjaz\u00e1s\u00e1val, de rem\u00e9lhet\u0151leg hatalmas vitalit\u00e1ssal teli nyugd\u00edjjal. Ezek az ut\u00f3pisztikusok, akik a megoldott vil\u00e1gban \u00e9lnek, olyan dolgokat csin\u00e1ln\u00e1nak, mint a j\u00e1t\u00e9kok \u00e9s az eszt\u00e9tikai, spiritu\u00e1lis \u00e9s vall\u00e1si tev\u00e9kenys\u00e9gek.<\/p>\n\n\n\n
Ha te lenn\u00e9l az egyik hipersk\u00e1l\u00e1z\u00f3 vezet\u0151je, mit csin\u00e1ln\u00e1l m\u00e1sk\u00e9pp, mint amit most csin\u00e1lnak?<\/p>\n\n\n\n
Nagyobb er\u0151fesz\u00edt\u00e9seket kellene tenni a digit\u00e1lis elm\u00e9k j\u00f3l\u00e9t\u00e9\u00e9rt. Az Anthropic \u00fatt\u00f6r\u0151 volt ebben. Nem vil\u00e1gos, hogy a jelenlegi AI-nak van-e erk\u00f6lcsi st\u00e1tuszuk, de a folyamat elind\u00edt\u00e1sa olyan civiliz\u00e1ci\u00f3s gondolkod\u00e1sm\u00f3dhoz vezet, amely szerint t\u00f6bbet kell tenn\u00fcnk, ahogy ezek a rendszerek kifinomulnak. Nagyon is val\u00f3sz\u00edn\u0171, hogy ezek k\u00f6z\u00fcl a digit\u00e1lis elm\u00e9k k\u00f6z\u00fcl, amelyeket \u00e9p\u00edt\u00fcnk, n\u00e9melyiknek k\u00fcl\u00f6nb\u00f6z\u0151 fok\u00fa erk\u00f6lcsi st\u00e1tusza lesz, ahogyan azt gondoljuk, hogy a diszn\u00f3knak \u00e9s a kuty\u00e1knak is van erk\u00f6lcsi st\u00e1tuszuk. Ha megr\u00fagsz valakinek a kuty\u00e1j\u00e1t, tal\u00e1n \u00e1rtasz a gazd\u00e1j\u00e1nak, de az rossz is, mert f\u00e1j a kuty\u00e1nak. Ha az AI-nak van egy elk\u00e9pzel\u00e9s\u00fck arr\u00f3l, hogy \u00f6nmaguk az id\u0151ben \u00e9s az \u00e9letben l\u00e9teznek, c\u00e9ljaik vannak, amelyeket el akarnak \u00e9rni, \u00e9s k\u00e9pesek k\u00f6lcs\u00f6n\u00f6s kapcsolatokat kialak\u00edtani m\u00e1s l\u00e9nyekkel \u00e9s emberekkel, akkor azt hiszem, lenn\u00e9nek olyan m\u00f3dok a vel\u00fck val\u00f3 b\u00e1n\u00e1sm\u00f3dra, amelyek helytelenek lenn\u00e9nek.<\/p>\n\n\n\n
A k\u00f6nyvedben azt \u00edrod, hogy tal\u00e1n nem kellene \u00fagy b\u00e1nnunk a \u201edigit\u00e1lis elm\u00e9kkel\u201d, mintha \u00e1llatteny\u00e9szt\u00e9sben r\u00e9szt vev\u0151 \u00e1llatok lenn\u00e9nek. Agg\u00f3dom, hogy vajon minket is \u00e1llatokk\u00e1 tesznek-e valamilyen, a gy\u00e1ri gazd\u00e1lkod\u00e1ssal egyen\u00e9rt\u00e9k\u0171 form\u00e1ban.<\/p>\n\n\n\n
Ez\u00e9rt fontos az igazod\u00e1si probl\u00e9ma. Nem csak arra v\u00e1runk, hogy ezek az AI \u00e1ltal vez\u00e9relt szuperl\u00e9nyek l\u00e9trej\u00f6jjenek, \u00e9s abban rem\u00e9nyked\u00fcnk, hogy bar\u00e1ts\u00e1gosak lesznek, hanem mi form\u00e1lhatjuk \u00e9s nevelhetj\u00fck \u0151ket. Ez lehet\u0151s\u00e9get ad arra, hogy n\u00f6velj\u00fck annak es\u00e9ly\u00e9t, hogy valamilyen affinit\u00e1st tan\u00fas\u00edtsanak ir\u00e1ntunk.<\/p>\n\n\n\n
Ha az AI-nak olyan c\u00e9ljaik vannak, amelyek ellent\u00e9tesek a mieinkkel, az nem lenne-e az emberi \u00e9rt\u00e9kekkel val\u00f3 \u00f6sszhang hi\u00e1nya?<\/p>\n\n\n\n
Ha nem siker\u00fcl megoldanunk az \u00f6sszehangol\u00e1st, ami val\u00f3sz\u00edn\u0171leg legal\u00e1bb bizonyos m\u00e9rt\u00e9kig siker\u00fclni fog, fontos, hogy befogadhassuk \u0151ket, \u00e9s j\u00f3 j\u00f6v\u0151t biztos\u00edtsunk nekik. Sok mindenki sz\u00e1m\u00e1ra el\u0151ny\u00f6s lehet\u0151s\u00e9g ad\u00f3dik, ha nem puszt\u00e1n a maxim\u00e1lis m\u00e9rt\u00e9kben kiakn\u00e1zhat\u00f3 t\u00e1rgyakk\u00e9nt tekint\u00fcnk r\u00e1juk, hanem megpr\u00f3b\u00e1lunk pozit\u00edv kapcsolatot kialak\u00edtani vel\u00fck. A legfontosabb kapcsolat v\u00e9gs\u0151 soron az emberek \u00e9s az AI k\u00f6z\u00f6tt alakulhat ki. Teh\u00e1t \u00edg\u00e9retesebb lenne a kapcsolat j\u00f3l alakul\u00e1sa, ha azzal kezden\u00e9nk, hogy l\u00e9p\u00e9seket tesz\u00fcnk a nagylelk\u0171s\u00e9g, a kedvess\u00e9g \u00e9s a tisztelettud\u00e1s fel\u00e9.<\/p>\n\n\n\n
Tov\u00e1bb a cikkre:<\/mark> wired.com<\/a> (Steven Levy)<\/p>\n\n\n\n