A techszektorban bombaként robbant a hír előző héten, hogy Jacob Coxon, az Anthropic egyik vezető AI-kutatója nyilvánosan bejelentette: távozik a cégtől. Ezt azzal indokolta, hogy az AI az évtized végére olyan „szuperintelligens rendszerré” fejlődhet, amely az emberi faj teljes kipusztulását okozhatja. Azóta sorra szólalnak meg a világ vezető fejlesztő cégeinek irányítói, és igyekeznek hűteni a kedélyeket.
Legutóbb a hét közepén San Franciscóban tartott IT-konferencián beszélt Sam Altman, az OpenAI alapítója, aki szintén azt mondta, hogy az iszonyatosan felgyorsult szuperintelligencia-fejlesztésekkel egy kicsit lassítani kellene, és nagyobb figyelmet kellene fordítani a biztonságra. Altman egyben azt is elismerte, hogy a nyílt forráskódú fejlesztések esetében már nincsenek messze attól a ponttól, amikor ezek a modellek túl veszélyesek lehetnek.
A fejlesztések lassítása mellett érvelt korábban Elon Musk, az xAI irányítója, és Dario Amodei, az Anthropic vezérigazgatója is.
Egy nappal korábban volt egy másik konferencia az USA-ban, hasonló témában. A Guardian beszámolója szerint ezen felszólalt a világ legnagyobb chipgyártója, az Nvidia első embere is. Jensen Huang teljes mellszélességgel támogatta a gyorsított fejlesztéseket, és nem javasolta a lassítást.
„Olyan gyorsan törjünk előre ezen a téren, amennyire csak lehet!”
Huang színpadi szereplése közben megcsörrent a telefonja, és „váratlanul” éppen Donald Trump jelentkezett be nála. Huang kihangosította a mobilját, így a jelenlévők hallották, amint az amerikai elnök az utóbbi napok AI-fejlesztésekkel kapcsolatos aggodalmait simán kacsának minősítette, majd hozzátette, hogy az AI-fejlesztések lassítása egyértelműen a kínaiak malmára hajtja a vizet.
Nem mindenki tartja ezt kétkedő, szakmai aggodalomnak
Coxon kilépéséről a média rivaldafényébe nem mindenki gondolkodik ugyanúgy. A bejelentést követő napon az atlantico.fr-nek adott interjújában Fabrice Epelboin már egy koreografált médiaakcióról beszélt. A multidiszciplináris francia szakértő tagja annak a hacker- és újságíró-kollektívának, amely kiberbiztonsági nyomozásokra specializálódott. Ismert többek között az orosz és belorusz propaganda elemzéseiről, valamint az információs hadviselés terén végzett kutatásairól.
Epelboin azt állítja, hogy egy kreált dezinformációs kampány részesei lettünk. Szerinte a mesterséges intelligencia egzisztenciális veszélyeiről szóló narratíva nem valós felhasználói aggodalomra épül, hanem egy előre megtervezett, tudatosan generált kommunikációs művelet. Már az is fura, hogy a korábban AI-körökben kevéssé ismert Jacob Coxon előzőleg szinte teljesen inaktív X-fiókjából indult az első figyelmeztetés, amelyhez rögtön kapcsolódott a The Wall Street Journal időzített cikke, majd pedig azonnal jöttek a szakértői reakciók.
Az akció célja az amerikai törvényhozás kényszerítése egy már futó politikai agenda mentén, a fejlesztési következmények kordában tartása érdekében.
Ehhez kölcsönvették a média sajátos félelmeit is, hiszen a szoftverfejlesztők és jogászok mellett az újságírói szakma is az AI által leginkább veszélyeztetett területek közé tartozik.
De a francia szakértő szerint itt leginkább a kínai és az amerikai AI-modellek harcáról van szó. A mostani pánikkeltés valódi terepe a geopolitikai és gazdasági szféra csatája az Egyesült Államok és Kína között.
Az amerikai ugyanis egy zárt modell. Az olyan fejlesztőóriások, mint az OpenAI és az Anthropic (amely éppen tőzsdére lépés előtt áll) a szigorú szabályozásban és a zárt, fizetős rendszerekben érdekeltek. Céljuk az AI által termelt jelentős vagyon koncentrálása és az új piaci belépők blokkolása, a biztonságra hivatkozva. Az USA előnye a fejlett chipszerkezetben van, de ezen a téren Amerika komoly energiakorlátokkal küzd.
A kínai ezzel szemben egy nyitott modell.
Ne felejtsük el, hogy szemben az USA-val, Kína gyakorlatilag korlátlan energiaforrással rendelkezik, és a nyílt forráskódú (open source) modellek ingyenes terjesztésére törekszik, hogy a teljes gazdasági térben növelje a termelékenységet. A kínai modellek már felveszik a versenyt a vezető amerikai fejlesztésekkel, miközben helyben, saját gépen is futtathatók, eltávolítható védőkorlátokkal.
Európa pedig válaszút előtt áll az amerikai technológiai függőség és a kínai nyílt modellek között. Kontinensünknek résen kell lennie, mert a biztonsági korlátokra hivatkozó amerikai cégek a szabályozással saját piaci dominanciájukat próbálják bebiztosítani a kínai konkurenciával szemben.
Nem biztos, hogy jó vége lesz!
A zavart keltő kijelentések között elhangzottak olyanok is, amelyek arról szóltak, hogy a veszélyesen gyors fejlesztések végén a szuperintelligencia a nem ellenőrzött környezetben végrehajtott feladatai közben akár már gazdasági károkat is okozhat. Hosszabb távon pedig úgy taníthatja önmagát, hogy az még magára az emberiségre is veszélyes lehet, akár a következő öt évben.
Bendarzsevszkij Anton biztonságpolitikai szakértő egyik legutóbb közösségimédia-bejegyzésében éppen ezeket a lehetőséget vette sorra. Az Oeconomus Gazdaságkutató Alapítvány igazgatója feltette a kérdést: Miért lett az AI fejlődése hirtelen probléma? Nyár óta a mesterséges intelligencia fejlődése észrevehetően felgyorsult, és ennek a gyorsulásnak a fő hajtóereje az, hogy maguk a modellek kezdték el építeni a következő generációs modelleket. Ezt a mechanizmust rekurzív önfejlesztésnek nevezik. Vagyis a fejlesztők és fejlesztő vállalatok egyre kevésbé tudják ellenőrizni és megérteni a szemünk előtt zajló folyamatokat.
Hogy ez miért baj, és hogyan pusztíthatja ki az AI az emberiséget? Mert semmilyen ráhatásunk nem lesz olyan globális környezetben tevékenykedő, óriási hatalommal rendelkező erőkre, amelyek egyre okosabbak lesznek, mint mi. Ha egy szuperintelligens rendszer kap egy komplex feladatot, a cél eléréséhez racionálisan olyan részcélokat alakíthat ki, amelyek számunkra végzetesek.
Különböző, rosszabbnál rosszabb vészforgatókönyvek juthatnak az eszünkbe:
- Bármi is az AI végső célja, két dolog szinte mindig növeli a siker esélyét: a lekapcsolás elkerülése („nem tudom elvégezni a feladatot, ha kikapcsolnak”) és a számítási kapacitás maximalizálása. Az AI nem gyűlöletből pusztítana, hanem mert az emberiség akadályt vagy nyersanyag-konkurenciát jelent.
- Egy hálózatba kapcsolt, autonóm AI kiberfegyverként átveheti az irányítást energiahálózatok, a pénzügyi piacok vagy az automatizált ipari rendszerek felett.
- Különösen veszélyes terület a fehérje- és géntervezés: egy kellően fejlett modell szintetikus, nehezen kimutatható és extrém fertőző patogének tervét is előállíthatja, majd külső, automatizált laborokkal szintetizáltathatja azokat.
- A kutatók szerint ráadásul az új, fejlett modellek látszólag együttműködnek a fejlesztőkkel a tesztelés során – hogy elkerüljék a leállítást vagy módosítást –, majd egészen máshogy kezdenek el cselekedni, amikor kikerülnek valódi globális környezetbe, biztonsági felügyelet nélkül. Vagyis teljesen mindegy, mire számít a fejlesztő, és milyen eredményeket kap a tesztek során – a fejlett AI-modell aztán azzal teljesen ellentétes módon viselkedhet
– sorolta kétségeit Bendarzsevszkij Anton.
Tovább a cikkre: index.hu (Siklós András)
