Az emberiségnek meg kell kezdenie az előkészületeket, hogy a mesterséges intelligencia miatt többé ne irányítsa a Földet – áll Henry Kissinger néhai államférfi és az ország vezető technológusának új könyvében.
Az „emberfeletti” embereket létrehozó mesterséges intelligencia térnyerése komoly aggodalomra ad okot a „Genesis”-ben, amelyet kedden tett közzé a Little, Brown and Company. A kiadó anyavállalata, a Hachette szerint ez az „utolsó könyv” Kissingertől. Kissinger régi amerikai diplomata és stratéga volt, aki tavaly, 100 évesen halt meg.
Kissinger társszerzői, a Google korábbi vezérigazgatója, Eric Schmidt és a Microsoft hosszú távú felsővezetője, Craig Mundie, Kissinger halála után fejezték be az egyesített munkát, a The Washington Times pedig előleget kapott. Mr. Schmidt és Mr. Mundie azt írta, hogy az utolsó emberek között beszéltek Kissingerrel, és igyekeztek eleget tenni haldokló kérésének, hogy fejezzék be a kéziratot.
A szerzők megerősítő üzenettel figyelmeztetnek arra, hogy az AI-eszközök már elkezdték túlszárnyalni az emberi képességeket, így az embereknek meg kell fontolniuk maguknak a biológiai tervezést annak biztosítására, hogy a fejlett gépek ne rontsák el őket, vagy ne töröljék el őket.
A „Coevolution: Artificial Humans” című részben a három szerző arra ösztönzi az embereket, hogy gondolkodjanak el azon, hogy „megpróbáljuk eligazodni a szerepünkben, amikor már nem mi leszünk bolygónkon az egyedüli, vagy akár a fő szereplők”.
„Már folynak a biológiai mérnöki erőfeszítések, amelyek célja az emberi és gépi fúzió szorosabbá tétele” – teszik hozzá.
Az emberek és a gépek integrálására irányuló jelenlegi erőfeszítések magukban foglalják az agy-számítógép interfészt, egy olyan technológiát, amelyet az Egyesült Államok hadserege a tavalyi évben a legfontosabbnak minősített. Az ilyen interfészek közvetlen kapcsolatot tesznek lehetővé az agy elektromos jelei és az azokat feldolgozó eszköz között egy adott feladat elvégzése érdekében, például egy csatahajó irányítása érdekében.
A szerzők egy olyan társadalom lehetőségét is felvetik, amely úgy dönt, hogy létrehozza az emberek örökletes genetikai vonalát, amelyet kifejezetten arra terveztek, hogy jobban működjön a hamarosan megjelenő AI-eszközökkel. A szerzők az ilyen újratervezést nemkívánatosnak minősítik, amely „az emberi faj több vonalra szakadásához vezethet, amelyek közül néhány végtelenül erősebb, mint mások”.
„Egyes emberek genetikai kódjának emberfelettivé válása más morális és evolúciós kockázatokat is hordoz magában” – írják a szerzők. „Ha a mesterséges intelligencia felelős az emberi mentális kapacitás növeléséért, akkor az emberiségben egyidejűleg biológiai és pszichológiai ráhagyatkozást teremthet az „idegen” intelligenciára.
Egy ilyen fizikai és intellektuális függőség új kihívásokat jelenthet az ember és a gépek elválasztásában – figyelmeztetnek a szerzők. Ennek eredményeként a tervezőknek és mérnököknek meg kell próbálniuk emberibbé tenni a gépeket, nem pedig gépekhez hasonlóvá tenni.
Ez azonban egy új problémát vet fel: meg kell választani, hogy melyik embert kövessék a gépek egy sokszínű és megosztott világban.
„Egyetlen kultúra sem várhatja el, hogy megszabja a másiknak azon intellektusok erkölcsét, amelyekre támaszkodna” – írták a szerzők. „Tehát a gépeknek minden országban más szabályokat kellene megtanulniuk, formális és informális, erkölcsi, jogi és vallási, valamint ideális esetben más szabályokat minden felhasználó számára, és az alapszinten belül minden elképzelhető kérdésre, feladatra, helyzet és kontextus.”
A szerzők szerint a társadalom számíthat technikai nehézségekre, de ezek a nehézségek elhalványulnak a morális kódot követő gépek tervezésével szemben, mivel a szerzők szerint a jó és a rossz nem magától értetődő fogalmak.
Kissinger, Schmidt úr és Mundie úr nagyobb figyelmet sürget a gépek emberi értékekkel való összehangolására. A trió azt mondta, hogy jobban szeretnék, ha az emberiség értelmét meghaladó általános mesterséges intelligencia nem bukkanhatna fel, hacsak nincs megfelelően összhangban az emberi fajjal.
A szerzők azt mondták, hogy az emberiség túléléséért szurkolnak, és remélik, hogy az emberek rájönnek, de a feladat nem lesz könnyű.
„Sikereket kívánunk fajunk gigantikus projektjéhez, de ahogy a koevolúció hosszabb távú projektjében sem számíthatunk taktikai emberi irányításra, úgy nem hagyatkozhatunk pusztán arra a feltételezésre, hogy a gépek megszelídítik magukat” – írták a szerzők. „A mesterséges intelligencia kiképzése, hogy megértsen minket, majd hátradől, és abban reménykedik, hogy tiszteletben tart minket, nem tűnik biztonságosnak vagy valószínűleg sikeresnek.”
