A filozófus szerint az embereknek a fejlett AI-t és a „megoldott világ” ígéretét kellene követniük.

Nick Bostrom filozófus nemrégiben közzétett egy tanulmányt, amelyben azt feltételezte, hogy annak kis esélye, hogy az AI megsemmisíti az emberiséget, megéri a kockázatot, mivel a fejlett AI felmentheti az emberiséget az „egyetemes halálos ítélet” alól. Ez a derűlátó kockázat jelentős eltérés az AI-val kapcsolatos korábbi sötét elmélkedéseihez képest, amelyek végzetes keresztapává tették. 2014-es Superintelligence (Szuperintelligencia) című könyve az AI egzisztenciális kockázatának korai vizsgálata volt.

Egy emlékezetes gondolatkísérlet: Egy gemkapcsok készítésével megbízott AI végül elpusztítja az emberiséget, mert az összes erőforrásra szoruló ember akadályozza a gemkapocsgyártást. Újabb könyve, a Deep Utopia (Mély utópia) a fókuszának eltolódását tükrözi . Bostrom, az Oxfordi Emberiség Jövője Intézet vezetője, a „megoldott világról” ír, amely akkor jön el, ha jól csináljuk az AI-t.

Steven Leví: A Mély utópia optimistább, mint az előző könyved. Mi változott benned?

Nick Bostrom: Aggódó optimistának nevezem magam. Nagyon izgatott vagyok az emberi élet radikális javításának és civilizációnk lehetőségeinek feltárása miatt. Ez összhangban van azzal a valós lehetőséggel, hogy a dolgok rosszul mennek.

Meghökkentő érveléssel írtál egy cikket: Mivel úgyis mindannyian meg fogunk halni, a legrosszabb, ami az AI-al történhet, az az, hogy hamarabb meghalunk. De ha az AI beválik, meghosszabbíthatja az életünket, talán a végtelenségig.

Ez a tanulmány kifejezetten csak egyetlen aspektusát vizsgálja. Egyetlen tudományos dolgozatban sem lehet az élettel, a világegyetemmel és mindennek a jelentésével foglalkozni. Tehát nézzük meg ezt a kis problémát, és próbáljuk meg megválaszolni.

Ez nem kis probléma.

Azt hiszem, bosszantottak azok az érvek, amelyeket a végzetpártiak hangoztatnak, hogy ha az AI építesz, megölsz engem és a gyerekeimet, és hogy merészeled ezt. Mint például a nemrég megjelent könyv, a ” Ha bárki megépíti, mindenki meghal” című . Még valószínűbb, hogy ha senki sem építi meg, mindenki meghal! Ez volt a tapasztalat az elmúlt 100 000 évben.

De a végzetes forgatókönyvben mindenki meghal, és nem születik több ember. Nagy különbség.

Nyilvánvalóan nagyon aggódtam emiatt. De ebben a tanulmányban egy másik kérdést vizsgálok, mégpedig azt, hogy mi lenne a legjobb a jelenleg létező emberi populációnak, mint nekünk, a családjainknak és a bangladesi embereknek? Úgy tűnik, hogy a várható élettartamunk emelkedne, ha kifejlesztenénk az AI-t, még ha az meglehetősen kockázatos is.

A Mély utópiában azon spekulálsz, hogy az AI hihetetlen bőséget teremthet, olyannyira, hogy az emberiségnek hatalmas problémája lehet a cél megtalálásával. Az Egyesült Államokban élek. Nagyon gazdag ország vagyunk, de a kormányunk, látszólag az emberek támogatásával, olyan politikát folytat, amely megtagadja a szolgáltatásokat a szegényektől, és jutalmat oszt a gazdagoknak. Úgy gondolom, hogy még ha az AI képes is lenne mindenkinek bőséget biztosítani, akkor sem biztosítanánk mindenkinek.

Lehet, hogy igazad van. A Mély Utópia kiindulópontja az a feltételezés, hogy minden rendkívül jól megy. Ha viszonylag jó munkát végzünk a kormányzás terén, mindenki részesül belőle. Meglehetősen mély filozófiai kérdés merül fel azzal kapcsolatban, hogy milyen lenne egy jó emberi élet ilyen ideális körülmények között.

Az élet értelméről sokat hallani Woody Allen filmjeiben és talán a filozófusok közösségében is. Engem jobban aggaszt, hogy miből lesz képes fenntartani magát, és részesedést szerezni ebből a bőségből.

A könyv nem csak a jelentésről szól. Ez egy érték a sok közül, amit figyelembe vesz. Ez csodálatos emancipáció lehet az emberiség kiszolgáltatottságától. Ha felnőttként mondjuk az ébren töltött óráid felét fel kell adnod csak azért, hogy megélj, olyan munkát végezve, amit nem élvezel, és amiben nem hiszel, az egy szomorú állapot. A társadalom annyira hozzászokott ehhez, hogy mindenféle racionalizálást kitaláltunk köré. Olyan, mint a rabszolgaság részleges formája.
Amikor eljön a pillanat, amikor az AI jobban ír filozófiai dolgozatokat, mint te, vajon elveszíted-e a létezésedből a léted értelmét

Azt hiszem, igen. A képesség, hogy valami nagyot hozzak a világnak, vagy segítsek megmenteni a világot, vagy biztosítsam, hogy a jövő kikerüljön a kezemből, és talán mindenki más kezéből is.

Másrészről viszont egy ember által írt filozófiai dolgozat értékesebb lehet, mint egy sokkal okosabb, mélyebb, nem ember által írt filozófiai dolgozat, mert én is ember vagyok, és ez rám vonatkozik.

Gondolom, a filozófiát lehetne egyfajta sportnak is tekinteni.

Ez nem csak sport. Egy robot kijelentései nem annyira jelentőségteljesek számomra, mint egy embertársamé.

Azt hiszem, ugyanez a helyzet akkor is, ha egy olyan karrier után vonulsz nyugdíjba, ami iránt szenvedélyesen érdeklődsz, és amiben úgy érzed, jó is vagy. Talán nagyszerű nyugdíjas éveid lesznek, élvezed a pihenést, a könyvek olvasását, amikre jut időd, és az unokáiddal való játékot, de valószínűleg még mindig van valami, ami hiányzik, ami elveszettnek érzed. Talán ez analóg lesz az emberiség nagy nyugdíjazásával, de remélhetőleg hatalmas vitalitással teli nyugdíjjal. Ezek az utópisztikusok, akik a megoldott világban élnek, olyan dolgokat csinálnának, mint a játékok és az esztétikai, spirituális és vallási tevékenységek.

Ha te lennél az egyik hiperskálázó vezetője, mit csinálnál másképp, mint amit most csinálnak?

Nagyobb erőfeszítéseket kellene tenni a digitális elmék jólétéért. Az Anthropic úttörő volt ebben. Nem világos, hogy a jelenlegi AI-nak van-e erkölcsi státuszuk, de a folyamat elindítása olyan civilizációs gondolkodásmódhoz vezet, amely szerint többet kell tennünk, ahogy ezek a rendszerek kifinomulnak. Nagyon is valószínű, hogy ezek közül a digitális elmék közül, amelyeket építünk, némelyiknek különböző fokú erkölcsi státusza lesz, ahogyan azt gondoljuk, hogy a disznóknak és a kutyáknak is van erkölcsi státuszuk. Ha megrúgsz valakinek a kutyáját, talán ártasz a gazdájának, de az rossz is, mert fáj a kutyának. Ha az AI-nak van egy elképzelésük arról, hogy önmaguk az időben és az életben léteznek, céljaik vannak, amelyeket el akarnak érni, és képesek kölcsönös kapcsolatokat kialakítani más lényekkel és emberekkel, akkor azt hiszem, lennének olyan módok a velük való bánásmódra, amelyek helytelenek lennének.

A könyvedben azt írod, hogy talán nem kellene úgy bánnunk a „digitális elmékkel”, mintha állattenyésztésben részt vevő állatok lennének. Aggódom, hogy vajon minket is állatokká tesznek-e valamilyen, a gyári gazdálkodással egyenértékű formában.

Ezért fontos az igazodási probléma. Nem csak arra várunk, hogy ezek az AI által vezérelt szuperlények létrejöjjenek, és abban reménykedünk, hogy barátságosak lesznek, hanem mi formálhatjuk és nevelhetjük őket. Ez lehetőséget ad arra, hogy növeljük annak esélyét, hogy valamilyen affinitást tanúsítsanak irántunk.

Ha az AI-nak olyan céljaik vannak, amelyek ellentétesek a mieinkkel, az nem lenne-e az emberi értékekkel való összhang hiánya?

Ha nem sikerül megoldanunk az összehangolást, ami valószínűleg legalább bizonyos mértékig sikerülni fog, fontos, hogy befogadhassuk őket, és jó jövőt biztosítsunk nekik. Sok mindenki számára előnyös lehetőség adódik, ha nem pusztán a maximális mértékben kiaknázható tárgyakként tekintünk rájuk, hanem megpróbálunk pozitív kapcsolatot kialakítani velük. A legfontosabb kapcsolat végső soron az emberek és az AI között alakulhat ki. Tehát ígéretesebb lenne a kapcsolat jól alakulása, ha azzal kezdenénk, hogy lépéseket teszünk a nagylelkűség, a kedvesség és a tisztelettudás felé.

Tovább a cikkre: wired.com (Steven Levy)

A legtöbb amerikai szerint a mesterséges intelligencia fejlesztése túl gyorsan halad, és kétszer annyian vannak a mesterséges intelligencia iránt pesszimisták, mint az optimisták

A legfrissebb Economist/YouGov közvélemény-kutatás szerint sok amerikai aggodalmát fejezi ki amiatt, hogy a mesterséges intelligencia (AI) hogyan fogja befolyásolni a gazdaságot és a munkaerőpiacot. Több amerikai pesszimista, mint optimista az AI hosszú távú hatásait illetően, de ennek a pesszimizmusnak a forrása az életkortól függően változik. A fiatal felnőttek nagyobb valószínűséggel hiszik, mint az idősebb amerikaiak, hogy az AI mindenki számára előnyös gazdasági előnyöket teremt, de nagyobb valószínűséggel aggódnak amiatt is, hogy az AI felváltja azokat a munkahelyeket, amelyektől függenek.

A legtöbb amerikai (71%) úgy véli, hogy az AI fejlesztésének üteme túl gyors. Körülbelül egynegyedük (27%) szerint a tempó megfelelő, és csak 2%-uk szerint túl lassú. A demokraták (77%) valamivel nagyobb valószínűséggel mondják, hogy az AI túl gyorsan fejlődik, mint a függetlenek (69%) és a republikánusok (68%). A 30 év alatti felnőttek egyharmada (33%) szerint az AI a megfelelő ütemben fejlődik, ami a legtöbb az összes korcsoportban, bár közel kétharmaduk (64%) szerint túl gyorsan halad. Az idősebb amerikaiak mondják leggyakrabban, hogy túl gyorsan halad: a 65 éves és idősebb amerikaiak 79%-a mondja ezt.

A legtöbb amerikai szkeptikus azzal kapcsolatban, hogy mindenki gazdaságilag profitálna az AI-ból. Az amerikaiak közel kétharmada (64%) szerint kismértékben vagy nagyon valószínűtlen, hogy az AI mindenki számára előnyös gazdasági előnyöket teremt; csak 8% mondja, hogy nagyon valószínű, és 28% szerint némileg valószínű. A demokraták a legkevésbé vélik úgy, hogy az AI mindenkinek gazdaságilag előnyös lesz: 48% szerint ez nagyon valószínűtlen, szemben a függetlenek 40%-ával és a republikánusok 31%-ával. Mindhárom csoportban a többség szerint ez valószínűtlen.

A fiatalabb amerikaiak nagyobb valószínűséggel gondolják úgy, hogy az AI mindenki számára gazdasági előnyökkel jár, mint az idősebbek. A 30 év alatti felnőttek közel fele (45%) szerint ez némileg vagy nagyon valószínű. A 45 éves és idősebb amerikaiak kevesebb mint egyharmada mondja ugyanezt. Ennek ellenére minden korcsoportban a többség szerint a gazdasági előnyök mindenki számára valószínűtlenek.

Az amerikaiak széles körű aggodalmat mutatnak az AI azon munkahelyekre gyakorolt ​​hatása miatt, amelyektől ők és családjaik függenek, egyenlően megoszlva az aggodalom négy szintjén. Az amerikaiak körülbelül egynegyede nagyon aggódik (25%), némileg aggódik (26%), enyhén aggódik (25%), és egyáltalán nem aggódik (24%). Az Economist / YouGov februári közvélemény-kutatása szerint az amerikaiak körülbelül kétharmada gondolja úgy, hogy az AI csökkenteni fogja az Egyesült Államokban elérhető munkahelyek számát, így ezek az eredmények arra utalnak, hogy az amerikaiak valamivel kevésbé aggódnak az AI családjuk – vagy egyesek esetében a munkahelyektől kevésbé függő emberek – munkalehetőségeire gyakorolt ​​hatása miatt, mint az amerikai munkaerőpiac egésze miatt.

Míg a fiatalabb amerikaiak kevésbé aggódnak az AI fejlődésének üteme és a gazdasági hasznok elosztása miatt, mint az idősebbek, a fiatalabb felnőttek nagyobb valószínűséggel aggódnak amiatt, hogy az AI felváltja azokat a munkahelyeket, amelyektől ők és családjaik függenek. A 30 év alatti felnőttek 60%-a némileg vagy nagyon aggódik amiatt, hogy az AI felváltja azokat a munkahelyeket, amelyektől ők és családjaik függnek.

Az alacsonyabb családi jövedelmű amerikaiak nagyobb valószínűséggel aggódnak amiatt, hogy az AI felváltja a munkahelyeket, mint a magasabb jövedelműek. Az évi 50 000 dollár alatti családi jövedelemmel rendelkező amerikaiak többsége (56%) némileg vagy nagyon aggódik amiatt, hogy az AI felváltja a számukra létfontosságú munkahelyeket, szemben a magasabb családi jövedelmű amerikaiak 47%-ával.

Összességében ezek a tényezők segítenek megmagyarázni, hogy miért kétszer annyi amerikai mondja magát pesszimistának, mint ahány optimistának az AI társadalomra gyakorolt ​​hosszú távú hatását illetően (51% vs. 25%). A demokraták (59%) valamivel nagyobb valószínűséggel pesszimisták az AI hatásait illetően, mint a függetlenek (50%) és a republikánusok (46%). A korcsoportokon belül az AI hosszú távú hatásaival kapcsolatos optimizmus a 45 és 64 év közöttiek 19%-ától a 30 év alatti felnőttek 33%-áig terjed, de az AI-al kapcsolatban pesszimisták száma jelentősen meghaladja az optimistákét mindkét csoportban.

Az a hit, hogy az AI gazdaságilag mindenkinek előnyös lesz, szorosan összefügg az AI hosszú távú hatásaival kapcsolatos optimizmussal. Az amerikaiak többsége (55%), akik szerint némileg vagy nagyon valószínű, hogy az AI mindenki számára előnyös gazdasági előnyöket teremt, szintén optimista az AI hosszú távú hatásait illetően. Ezzel szemben az amerikaiak körülbelül kétharmada (69%), akik valószínűtlennek tartják, hogy az AI mindenkinek előnyös lesz, pesszimistán tekint az AI-ra.

Az AI munkaerőpiacra gyakorolt ​​hatásával kapcsolatos aggodalom szintén szorosan összefügg az AI-al kapcsolatos pesszimizmussal. Az amerikaiak háromnegyede (74%), akik nagyon aggódnak amiatt, hogy az AI felváltja azokat a munkahelyeket, amelyektől ők és családjuk függnek, pesszimista az AI hosszú távú hatásait illetően. Ezzel szemben az amerikaiaknak csak körülbelül a fele (48%), akik némileg vagy kissé aggódnak, nyilatkozott úgy, hogy pesszimista az AI-al kapcsolatban, akárcsak azok egyharmada (35%), akik egyáltalán nem aggódnak.

Tovább a cikkre: yougov.com (Alexander Rossell Hayes)