Jacob Coxon mesterséges intelligencia egzisztenciális kockázatairól szóló, vírusként terjedő figyelmeztetése mögött egy gondosan megtervezett kampány lehetősége rejlik. Feltételezett célja: a szabályozások befolyásolása és az amerikai technológiai óriások zárt modelljének védelme a nyílt forráskódú kínai mesterséges intelligenciával szemben.
Atlantico: Mit tudunk pontosan arról, hogy Jacob Coxon lemondása körüli felhajtás látszólag gondosan felépített volt, a Wall Street Journal cikkétől kezdve , amelyet az üzenete előtt készítettek és publikáltak, az első aktivista-továbbításokon, közös finanszírozási forrásaikon át a narratíva azonnali újraindításáig a média és a politikai vezetők részéről?
Fabrice Epelboin: A válasz nagyrészt magában a kérdésben rejlik. Egy nyugtalanító időbeli egybeesést látunk, ami nagy valószínűséggel nem lehet organikus felhajtás eredménye. Jacob Coxon fiókja gyakorlatilag inaktív, szinte vadonatúj volt, amikor kiadta a figyelmeztetését. Egyáltalán nem lehet ilyen hatást elérni egy olyan személy Twitter-fiókjával, aki nem jelentős személyiség a mesterséges intelligencia területén, előzetes kapcsolatépítés nélkül.
Tehát véleményem szerint ez egyértelműen mesterséges. Meg volt tervezve és összehangolva: ebben nincs kétség. Különösen mivel pénzügyi kapcsolatok vannak az ökoszisztéma különböző szereplői között.
Ez az eseménysorozat egy különösen érzékeny időszakban játszódik le. Az Anthropic tőzsdére lép, és az OpenAI, amely szintén erősen érintett ebben a történetben, várhatóan 2027-ben követi a példáját. Nem feltétlenül előnyös az OpenAI számára, hogy az Anthropicot kövesse; kétségtelenül jobban szerette volna először a tőzsdére lépni. Ezzel egyidejűleg pedig a mesterséges intelligencia szigorúbb szabályozása is elkezdődött.
Ennek a szabályozásnak nagyrészt a kínai fenyegetéssel kell szembenéznie. Kína azonban gyökeresen eltérő stratégiát követ az Egyesült Államokétól a mesterséges intelligencia tekintetében. Az amerikaiak olyan entitásokat hoznak létre, mint az Anthropic és az OpenAI, amelyek a mesterséges intelligencia által teremtett értéknek megfelelő gigantikus vagyont koncentrálnak a gazdaságban. A kínaiak ezzel szemben széles körben terjesztik modelljeiket, hogy teljes gazdasági szövetük átvehesse azokat és vagyont termelhessen.
Ez két gyökeresen eltérő és meglehetősen összeegyeztethetetlen stratégia. Kína fokozatosan olyan gazdasági modellt vezet be, amelyben a mesterséges intelligencia költsége elsősorban az energiának, a hardverértékcsökkenésnek és a profitrátának felel meg. Ez teljesen eltér az Anthropic vagy az OpenAI gazdasági modelljétől, amelyek értékelése a mesterséges intelligenciához való központosított, zárt és fizetős hozzáférés fenntartásának képességén alapul, amely végső soron a mesterséges intelligencia által teremtett hozzáadott érték nagy részét fogja megragadni.
Az amerikaiak számára ezért a legegyszerűbb megoldás egy olyan szabályozási keretrendszer bevezetése lenne, amely tiltja vagy súlyosan marginalizálja a nyílt forráskódú szoftvereket. Pontosan ezt erősíti meg az Anthropic jelenlegi közleménye is, azt állítva, hogy Claude többszörös felhasználását azonosította fegyverkezési, dezinformációs vagy külföldi hatalmak által végrehajtott műveletek céljából.
Ez a közlemény megerősíti azt az elképzelést, hogy jobb lenne, ha a mesterséges intelligencia továbbra is néhány, a kormányhoz közel álló, a biztonságát garantálni képes vállalat kiváltsága maradna, ahelyett, hogy hagynánk, hogy a kínaiak olyan modelleket terjesszenek, amelyeket bárki telepíthet a saját gépére, és tetszése szerint használhat.
Mindez nagyon is úgy néz ki, mint egy nyilvánvaló PR-fogás. Valószínűleg várnunk kell egy megfelelő vizsgálatra – és erre vonatkozó kérések is érkeztek –, hogy a végére járjunk az ügynek. De egy dolog már most világosnak tűnik számomra: egy olyan személy kis Twitter-fiókja, aki nem közszereplő a mesterséges intelligencia területén, önmagában és ilyen gyorsan nem tudna ekkora felhajtást generálni.
Hogyan tudjuk ebben a sorozatban megkülönböztetni a mesterséges intelligencia egzisztenciális kockázataira vonatkozó jogos tudományos figyelmeztetést annak politikai megrendezésétől, amikor a felvetett forgatókönyvek gyakran nehezen ellenőrizhetők, cáfolhatók vagy akár konkrét sorozatokká alakíthatók?
Fabrice Epelboin: Először is, el kell kerülnünk, hogy az első felbukkanó jelzésre ugorjunk. A média számára ez azt jelenti, hogy nem esnek a dezinformáció klasszikus csapdájába: nem hisznek, vagy nem akarnak hinni egy információban, mert az összhangban van a saját érdekeikkel, meggyőződéseikkel vagy félelmeikkel.
A szoftverfejlesztők után a média lesz a mesterséges intelligencia első áldozatai között. Már most is végezhetünk nyílt forráskódú vizsgálatokat a mesterséges intelligencia segítségével. Követhetjük a híreket és gyűjthetünk információkat oly módon, ami néha sokkal átfogóbb, mint egyetlen médiaforrás megkérdezése, amelyet szükségszerűen korlátoz annak szerkesztői vonala, erőforrásai és politikai irányultsága.
A mesterséges intelligencia már most is képes elvégezni az újságírói munka jelentős részét. Munkájuk köre ezért valószínűleg jelentősen csökkenni fog, és elsősorban az alapos vizsgálatokra, a terepmunkára, az emberi forrásokra és az eredeti információk feltárására fog összpontosítani.
Ami a többit illeti, a mesterséges intelligencia már képes a rutinszerű újságírói munka jelentős részét helyettesíteni. És korántsem biztos, hogy ez az átalakulás továbbra is az újságírók kezében marad. Ugyanígy könnyen arra is vezethet, hogy az olvasók közvetlenül a mesterséges intelligenciát alkalmazzák annak helyettesítésére, amit a média eddig biztosított számukra.
Ez történt a grafikai tervezés bizonyos területein. Tegnap egy étteremtulajdonosnak grafikust kellett felbérelnie, hogy vonzó étlapot készítsen. Ma már egy egyszerű utasítással is elkészíthetik. Véleményem szerint ez a sors vár sok újságíróra, ha a média nem közelíti meg konstruktívabban a mesterséges intelligenciát, hanem ehelyett egyszerűen kihasználja a félelmeket, és puszta termelékenységi eszközként használja – szégyenletesen.
Ezért természetes módon hajlamosak riadalomkeltő narratívákat terjeszteni a mesterséges intelligenciáról, mert félnek. Akár teljesen értik, mi fog történni velük, akár nem, ösztönösen érzik azt. És teljesen jogosan félnek: szakmájuk veszélyben van, akárcsak a szoftverfejlesztőké vagy az ügyvédeké. Ezek a szakmák legjobb esetben is gyökeresen átalakulnak, legrosszabb esetben pedig nagyrészt kiszorulnak.
Ez nyilvánvalóan nem jelenti azt, hogy a mesterséges intelligenciával kapcsolatos összes kockázat csak képzelgés. Valódi kockázatok és teljesen jogos tudományos figyelmeztetések léteznek. De a média túlságosan is közvetlenül érintett ebben az átalakulásban ahhoz, hogy ne ragadjon magával a saját elfogultsága és pánikja. Ez érthető, érthető, de sokkal kevésbé megbízhatóvá teszi a mesterséges intelligenciáról szóló tudósításaikat.
Ahhoz, hogy megkülönböztessük a tudományos figyelmeztetést a politikai színrevitelétől, vissza kell térnünk az ellenőrizhető elemekhez. Milyen pontos mechanizmus vezetne a megjósolt katasztrófához? Milyen jelenlegi képességeink teszik lehetővé annak előrejelzését? Milyen hipotézisek bizonyíthatók vagy cáfolhatók? Ha nem tudjuk a forgatókönyvet konkrét sorozatokká lefordítani, fokozatosan elhagyjuk a tudomány birodalmát, és belépünk a marketing, a kommunikáció vagy a politikai mozgósítás birodalmába.
Vannak tudósok, akik világos és tanulságos módon, szenzációhajhászás vagy teátralitás nélkül magyarázzák el a mesterséges intelligencia veszélyeit. Természetesen kevesebb felhajtást kelt, de sokkal strukturáltabb. Ajánlom El Mahdi El Mhamdi és kollégája, Lê Nguyên Hoang videóit, akik részletesen foglalkoztak ezzel a témával a Science4all csatornájukon.
Mit mutat az Anthropic, a Coxon üzenetét azonnal felerősítő szervezetek és a „mesterséges intelligencia biztonsága” mozgalmat finanszírozó gazdag magánszemélyek közötti pénzügyi és intézményi közelség: egy egyszerű aktivista ökoszisztémát, amely ugyanazokat az aggodalmakat osztja, vagy egy valódi szabályozói befolyási stratégiát?
Fabrice Epelboin: Ez azt mutatja, hogy pontosan ott tartunk, ahol egy nemrégiben készült francia szenátusi jelentés problémát jelentett a belföldi beavatkozás terén. Minden elem jelen van: átláthatatlan finanszírozás, ütköző érdekek, koordináció, valamint hamis üzenetek és felerősítés.
Ez a művelet tehát belső beavatkozásnak nevezhető. Nem arról van szó, hogy egy külföldi hatalmat vádolnak meg, még ha Kínát gyanúsítják is azzal, hogy félelmeket szít az amerikai mesterséges intelligenciával és adatközpontokkal kapcsolatban; itt nincs okunk gyanakodni rájuk. Az azonban egyértelmű, hogy magánszereplők, médiaorgánumok, politikai szereplők és aktivisták átláthatatlan és összehangolt akcióról van szó, amelynek célja a nyilvános vita és a politikai döntések befolyásolása azáltal, hogy egy szervezett kampánynak spontán mozgalom látszatát keltik.
Mit mutat az Anthropic, a Coxon üzenetét azonnal felerősítő szervezetek és a „mesterséges intelligencia biztonsága” mozgalmat finanszírozó gazdag magánszemélyek közötti pénzügyi és intézményi közelség: egy egyszerű aktivista ökoszisztémát, amely ugyanazokat az aggodalmakat osztja, vagy egy valódi szabályozói befolyási stratégiát?
Fabrice Epelboin: Ez azt mutatja, hogy pontosan ott tartunk, ahol egy nemrégiben készült francia szenátusi jelentés problémát jelentett a belföldi beavatkozás terén. Minden elem jelen van: átláthatatlan finanszírozás, ütköző érdekek, koordináció, valamint hamis üzenetek és felerősítés.
Ez a művelet tehát belső beavatkozásnak nevezhető. Nem arról van szó, hogy egy külföldi hatalmat vádolnak meg, még ha Kínát gyanúsítják is azzal, hogy félelmeket szít az amerikai mesterséges intelligenciával és adatközpontokkal kapcsolatban; itt nincs okunk gyanakodni rájuk. Az azonban egyértelmű, hogy magánszereplők, médiaorgánumok, politikai szereplők és aktivisták átláthatatlan és összehangolt akcióról van szó, amelynek célja a nyilvános vita és a politikai döntések befolyásolása azáltal, hogy egy szervezett kampánynak spontán mozgalom látszatát keltik.
A kínaiak fordított helyzetben vannak. Gyakorlatilag korlátlan hozzáféréssel rendelkeznek az energiához, és fő akadályuk továbbra is a csúcskategóriás processzorok. De jelentősen felzárkóznak.
Ezért elsősorban egy geopolitikai konfrontációval van dolgunk, sokkal többel, mint egy egyszerű pénzügyi buborékkal. Bizonyos tekintetben ez emlékeztet az Egyesült Államok és a Szovjetunió közötti konfrontációra a Csillagok háborúja idején, amikor az amerikai stratégia különösen abból állt, hogy a szovjet birodalmat olyan kiadásokba kényszerítette, amelyeket az nem engedhetett meg magának. Az amerikaiak megnyerték ezt a csatát.
Ezúttal lehetséges, hogy a kommunisták bosszút állnak, és a kínai modell a kapitalistákat a nagy mesterséges intelligencia cégek körüli pénzügyi katasztrófába taszítja.
Az a tény, hogy a megválasztott tisztviselők azonnal átvették az üzenetet, annak ellenére, hogy néhány nappal korábban benyújtottak egy törvényjavaslatot a szuperintelligencia betiltásáról, vajon azt jelzi, hogy ez a figyelmeztetés egy már kialakult politikai terv nyilvános támogatását jelentette?
Fabrice Epelboin: Nem tudom, hogy ez jelzi-e vagy bizonyítja-e. Mondjuk úgy, hogy nagyon erős kétségeket vet fel a helyzettel kapcsolatban. Az idővonalak közelsége, a politikai fellendülés sebessége és egy szuperintelligenciát célzó projekt korábbi létezése nem jelent formális bizonyítékot, de megnehezíti a véletlenek egyszerű sorozatának hipotézisének elfogadását.
Következőként demisztifikálnunk kell a szuperintelligencia fogalmát. Részben a gólem mítoszából ered: abból az elképzelésből, hogy az ember valami nála felsőbbrendűt fog teremteni, egyfajta istent, amely végül elszabadul teremtője elől.
Ez a nézet egyáltalán nem tükröződik Kínában. Ott a mesterséges intelligenciát inkább eszköznek, a hatalmi eszköznek tekintik, semmi többnek. Ugyanaz a misztikus rajongás a mesterséges intelligencia iránt nem létezik.
Nyugaton ez a dimenzió sokkal hangsúlyosabb, mivel társadalmainkat továbbra is befolyásolják a vallási hiedelmek. A szuperintelligencia így egyszerre marketingeszközzé és – kétségtelenül sokak számára – valódi tudományos céllá vált.
De maga az „intelligencia” kifejezés félrevezető. Valójában nem is igazán intelligenciával van dolgunk, hanem kompetenciával. És már most is szuperkompetenciával. A jelenlegi mesterséges intelligenciák, különösen a határmodellek, már most is sokkal kompetensebbek, mint te és én szinte minden területen. Ha radiológus vagy, a mesterséges intelligencia már most is sokkal kompetensebb nálad, de nem feltétlenül intelligensebb. A probléma az, hogy szakmailag csak a saját kompetenciádat használod.
Vajon egy olyan szakadás előtt állunk, amely valami végtelenül nagyobbhoz vezet, mint az emberiség? Egyelőre ez a hipotézis a marketingfogások, a tudományos kutatások és a filozófiai spekulációk metszéspontjában áll. Nagyon nehéz bizonyítani vagy cáfolni, ami pedig a törvényhozás céljából történő jogi meghatározását illeti, az puszta fikció.
A mesterséges intelligencia versenyének geopolitikai dimenziója azonban egy nagyon is valós és kézzelfogható jelenség. A szuperintelligenciát övező dramatizálás tehát a vita irányának megváltoztatására szolgál: a gazdasági modellek, a kínai verseny, a nyílt forráskódú szoftverek vagy az emberiség történetének legnagyobb vagyonkoncentrációjának megvitatása helyett a közvélemény egy hipotetikus egzisztenciális kockázatra összpontosít.
Ebben az összefüggésben Coxon üzenete nyilvános és erkölcsi támogatást nyújthat egy már kialakult politikai programhoz. Ha egy belülről jövő mérnök azt állítja, hogy az emberiség veszélyben van, akkor a kivételes törvényhozás azonnal legitimnek és sürgősebbnek tűnik.
Kinek jó ez a művelet? A mesterséges intelligencia óriásainak, akik a szabályozásokat felhasználva blokkolhatnák az új belépőket, vagy a demokratáknak, akik vissza akarják szerezni az irányítást a republikánus táborhoz egyre inkább kötődő technológiai szektor felett?
Fabrice Epelboin: Ez a művelet elsősorban a zárt modellnek kedvez. Előnyben részesíti a mesterséges intelligencia által teremtett vagyon koncentrációját néhány nagy szervezetben, amelyek felelősek lesznek a biztonságáért, és szorosan kapcsolódnak az amerikai kormányhoz. Ezzel szemben hajlamos elutasítani a nyílt modellt, amelyben bárki telepíthetné saját mesterséges intelligenciáját a gépeire, és gyakorlatilag azt csinálhatna vele, amit akar.
A szabályozás így megszilárdíthatja a már meglévő vállalatok pozícióját, és megszilárdíthatja az Egyesült Államok dominanciáját ezekben a technológiákban, folytatva a felhőalapú szolgáltatások terén ma is tapasztalható trendet. Minél magasabbak a biztonsági követelmények, a tanúsítási eljárások és a megfelelési költségek, annál nehezebb lesz az új belépőknek versenyezni az Anthropic, az OpenAI vagy más iparági óriásokkal. A domináns vállalatok így úgy mutatkozhatnak be, mint az egyetlenek, akik képesek kellően biztonságos mesterséges intelligenciát fejleszteni, miközben a szabályozást arra használják, hogy a saját zsebükből kizárják a piacot.
Az Anthropic legutóbbi nyilatkozata, amelyben azt állítja, hogy külföldi hatalmak általi Claude-használat számos rosszindulatú esetét azonosította, pontosan azt az elképzelést erősíti meg, hogy ha mindenkinek ilyen technológiája lenne a garázsában, gyorsan katasztrófához vezetnénk. Ez a narratíva tehát rendkívül erőteljes érvet szolgáltat az amerikai ellenőrzés alatt álló zárt és szabályozott modellek mellett.
Fontos azonban tudni, hogy a kínai modellek továbbra is letölthetők maradnak. A könnyebb modellek már telepíthetők egy szabványos Macintosh gépre. A kifinomultabb modellek nyilvánvalóan nem működnek személyi számítógépen, de néhány kínai modell már számos alkalmazásban vetekszik azzal, amit az Anthropic és az OpenAI kínál.
Ha egyszer telepíteni tudok egy modellt a számítógépemre, módosíthatom, finomíthatom a tanulási mechanizmusait, és megkerülhetem a biztonsági intézkedéseit. Hatékonyan tudok vele befolyási műveleteket végezni, vagy rosszindulatú célokra felhasználni. Az amerikai vagy európai szabályozások önmagukban nem lesznek elegendőek ezeknek a modelleknek a felszámolásához. A nyílt forráskódú szoftverek elleni küzdelem rendkívül bonyolult lesz. Ráadásul hozzájárul majd a vagyon koncentrációjához az Egyesült Államok által ellenőrzött szervezeteknél, és megkönnyíti az átmenetüket a liberális kapitalista modellről a libertarianizmus ihlette modellre, ami egyfajta techno-feudalizmushoz vezet. Ez nem triviális választás, még akkor sem, ha az alternatíva kétségtelenül egy kínai modell, amely a kommunizmus és a legzabolátlanabb liberalizmus hibridjéből született. Európaiakként válaszút előtt állunk.
A Mistral már kínál kínai modelleket, és azokat Szaúd-Arábiában is forgalmazza, és a legújabb fejlemények arra utalnak, hogy a vállalat ebbe az irányba haladhat, hogy életképes üzleti modellt találjon, ahelyett, hogy jelentős összegeket fektetne be saját niche modelljeinek fejlesztésébe, tudván, hogy egyszerűen nem tud versenyezni az amerikaiakkal. Továbbá az amerikai befolyás az európai jogszabályokra már nem olyan, mint régen volt. Most sokkal nehezebb lesz az Egyesült Államok számára közvetlenül diktálni az európai szabályozásokat.
Európa ezért két modell között szorul majd, és választania kell, vagy legalább meg kell próbálnia egyensúlyt találni. Nem utasíthatja el az amerikai megközelítést, mivel továbbra is az Egyesült Államok infrastruktúrájától és technológiájától függ. De most van egy másik lehetősége is: a kockázatok egyensúlyba hozása azáltal, hogy nem zárja be az ajtót a Kína által javasolt nyitott modellek előtt.
Ez igazából a fordulópont. Az Anthropic és az OpenAI lényegében rendkívül nagy teljesítményű MI-modelleket állít elő, de ezek csak MI-modellek maradnak. És a kínaiak technológiailag sem sokkal maradnak el mögöttük. Ha otthon telepíthetek egy olyan kínai modellt, amely vetekszik az amerikai termékekkel, akkor szabadon használhatom, módosíthatom, és elkerülhetem, hogy több billió dollár koncentrálódjon néhány vállalat kezében.
Pénzügyi szempontból megdöbbentő számokkal van dolgunk. Hárombillió dollár többet jelent, mint számos európai tőzsde együttes értéke. Ennek gyakorlatilag nincs gazdasági értelme.
Rendkívül bizonytalan pénzügyi struktúrák kialakulását is látjuk. A nagyvállalatok egymásba fektetnek be: egy processzorgyártó finanszíroz egy mesterséges intelligencia fejlesztő céget, hogy az utóbbi megvásárolhassa a processzorait; ez a vállalat számítási kapacitást vásárol egy felhőszolgáltatótól, amely viszont ugyanabba az infrastruktúrába fektet be, és ugyanattól a gyártótól vásárol hardvert. Egyfajta körforgásos gazdaságban vagyunk, amely több száz milliárd dollárt képvisel.
Továbbá, egyes mesterséges intelligencia-vállalatok adósságait kezdik értékpapírosítani, annak ellenére, hogy gyakran olyan hardver fedezi, amelynek élettartama rövidebb, mint a megvásárlásához felvett hiteleké. Ez azt jelenti, hogy a nagy technológiai vállalatok adóssága mindenféle más pénzügyi termékben felhígul. Ezek a mechanizmusok veszélyesen emlékeztetnek a 2008-ban az orrunk előtt robbant ki a másodlagos jelzáloghitel-válságra.
Tisztáznom kell, hogy egyáltalán nem vagyok pénzügyi szakértő, és távolról figyelem a helyzetet. De ebből a perspektívából nagyon rosszul néz ki. Ha ez a pénzügyi struktúra összeomlik, a következmények rendkívül súlyosak lehetnek. A kínaiak a maguk részéről sokkal kevésbé aggódnak, mert egy teljesen más stratégiát választottak, amely az ingyenesen elosztott modellek terjesztésére épül.
Ennek a műveletnek a fő haszonélvezője tehát nem feltétlenül a Demokrata Párt, még akkor sem, ha egyes megválasztott tisztviselők nyilvánvalóan úgy tekintenek rá, mint egy lehetőségre a republikánus táborhoz egyre inkább közel álló technológiai szektor feletti ellenőrzés visszaszerzésére. Elsősorban az amerikai mesterséges intelligenciaóriások és az általuk védett saját modell, és ezen keresztül az amerikai hatalom.
Azzal, hogy a biztonságot politikai kényszerré alakítják, igazolhatják modelljeik lezárását, megerősíthetik kapcsolataikat az állammal, blokkolhatják az új belépőket, és megpróbálhatják megvédeni értékeléseiket a kínai versenytől. Véleményem szerint ez a zárt és hipercentralizált amerikai modell, valamint a közjóként bemutatott nyitott kínai modell közötti konfrontáció jelenti az igazi tétet ebben az egész eseménysorozatban.
Tovább a cikkre: atlantico.fr (Fabrice Epelboin)
