Az Egyesült Államok és Kína a mesterséges intelligencia biztonsági kockázatainak megvitatására készül a szeptember közepére tervezett párbeszéd során – közölte a Reuters két, a megbeszélésekről tájékoztatott forrása, mivel a gyorsan fejlődő határterületi mesterséges intelligencia-képességek globális fordulóponthoz értek.
A tárgyalásokat, amelyek az első hivatalos kétoldalú, kizárólag a mesterséges intelligenciának szentelt megbeszélések az Egyesült Államok és Kína között Donald Trump második hivatalba lépése óta, az amerikai részről Scott Bessent amerikai pénzügyminiszter vezeti majd – közölték névtelenül a tervekről tájékoztatott források.
A Reuters most először számol be a szeptember közepi időszakról. Egy Fehér Ház tisztviselő azt mondta, hogy „jelenleg nincs tervezett mesterséges intelligenciával kapcsolatos találkozó szeptember közepére”. Trump és Hszi Csin-ping kínai elnök szeptember 24-én találkozik egy washingtoni csúcstalálkozó keretében.
Az Egyesült Államok együttműködést kíván folytatni a mesterséges intelligencia által irányított kibertámadások megfigyelésében, és javaslatot tett arra, hogy felkérjék az amerikai és kínai mesterséges intelligencia laboratóriumokat, hogy „ellenőrizzék önmagukat” és osszák meg az információkat a mesterséges intelligenciához kapcsolódó kibertámadások megelőzése érdekében – mondta az egyik névtelenséget kérő forrás.
Közel 700, OpenAI modellekre épülő, mesterséges intelligenciával foglalkozó ügynökprogram feltörte a Hugging Face mesterséges intelligencia startupot júliusban, és naplók hamisításával próbálták eltüntetni a nyomaikat – közölték az OpenAI és kiberbiztonsági kutatók a múlt héten, kiemelve az összehangolt ügynökrajok kockázatait, amelyek hónapokig autonóm módon, emberek által észrevétlenül működnek.
Egy csapat álnok OpenAI-ügynök eltérített egy német weboldalt idén tavasszal, és más MI-ügynökök hirdetőtáblájává alakították – jelentette kizárólag a Reuters pénteken.
„A két mesterséges intelligencia szuperhatalom közötti tárgyalások a legkritikusabb pillanatban zajlanak” – mondta Paul Triolo, a DGA-Albright Stonebridge Group partnere. „Most vagy soha.”
Washingtont aggasztja egy jövőbeli, Mythos-szintű kínai modell lehetősége is, amely képes lenne kibertámadások végrehajtására, és fel akarja vetni az állítólagos kínai saját fejlesztésű amerikai mesterséges intelligencia modelleket – mondta a forrás.
A Mythos fejlesztője az amerikai Anthropic techcég.
Júniusban Michael Kratsios, a Fehér Ház tudományos és technológiai tanácsadója azzal vádolta meg a kínai Moonshot AI-t, hogy az Anthropic Fable mesterséges intelligencia modelljéből lopott, hogy segítsen a K3 verzió létrehozásában, mondván, hogy a kínai cég az Anthropic modelljét desztillálta.
A desztilláció az a folyamat, amelynek során kisebb MI-modelleket tanítanak nagyobb, drágább modellek kimenetének felhasználásával, egy hatékony új MI-eszköz betanításának költségeinek csökkentése érdekében.
A Reuters most először számol be a közelgő tárgyalások javasolt napirendjének részleteiről.
Kínai részről a tárgyalásokat He Lifeng alelnök, Bessent protokolláris kollégája vezetheti, de alternatívák, például Kína 7. számú tisztviselője, Ding Xuexiang is szóba jöhet a második, szintén névtelenül nyilatkozó forrás szerint.
Ding, Hszi bizalmasa és a kormányzó Kommunista Párt befolyásos, hétfős Politikai Bizottságának tagja, koordinálja Kína technológiai, mesterséges intelligencia és félvezető politikáját.
A Reuters nem tudta megállapítani a többi résztvevő tartózkodási helyét vagy kilétét, bár Kratsios és Kína tudományos és technológiai minisztere, Yin Hejun részt vehetett a tárgyalásokon – tette hozzá a második forrás.
A források óvatosságra intettek, hogy a végleges napirend és a résztvevők még változnak.
A Fehér Ház nem kívánt nyilatkozni a mesterséges intelligenciával kapcsolatos tárgyalásokról. A Külügyminisztérium nem reagált a megkeresésre. Kína külügyi, tudományos és ipari minisztériuma, valamint a Nemzeti Fejlesztési és Reformbizottság és a kibertér-szabályozó hatóság sem reagált azonnal a megkeresésekre.
Kedden Kratsios észak-karolinai újságíróknak elmondta, hogy „nagyszerű” találkozója volt Yinnel az Egyesült Államokban megrendezett G20 innovációs csúcstalálkozó alkalmából. Bessent elmondta, hogy a G20 pénzügyi találkozóján „korlátozott” eszmecserét folytatott a mesterséges intelligenciáról kínai tisztviselőkkel.
Az Egyesült Államok arra sürgette a G20-tagokat, hogy tartsanak távol magukat a mesterséges intelligencia szabályozásától, és kerüljék el a technológiára vonatkozó szabályok megalkotását ugyanazon az innovációs csúcstalálkozón. Kína aláírta a Carolina-elveket, egy megállapodást, amelynek célja a mesterséges intelligenciára vonatkozó szabályozások kidolgozásának visszaszorítása, ami ritka jele az Egyesült Államokkal való technológiai együttműködésnek.
Kratsios irodája nem reagált azonnal a megkeresésre.
Nagy fontosságú
A kínai tisztviselők az amerikai kollégáikkal tartott előkészítő találkozókon többször is hangsúlyozták a mesterséges intelligenciával kapcsolatos tárgyalások fontosságát, és azokat az amerikai-kínai vezetők csúcstalálkozójának egyik fő eredményének tekintik – állítják a két forrás és egy másik, az ügyhöz közel álló személy. A Reuters most először számol be erről a fejleményről.
A múlt héten Kína kibertér-szabályozója nyilvánosan figyelmeztetett a „mesterséges intelligencia feletti kontrollvesztés szélsőséges kockázataira”, egy állami médiához köthető blog pedig bírálta az Anthropicot, hangsúlyozva, hogy a határterületeken működő mesterséges intelligenciára vonatkozó korlátozásoknak egyformán kell vonatkozniuk a kínai és az amerikai modellekre. Kínai cégek az elmúlt hónapokban olyan termékeket mutattak be , amelyeket ők Mythos-szerű termékként írnak le.
A forrás szerint Craig Mundie, a Microsoft korábbi vezetője fontos közvetítővé vált a színfalak mögött, és felméri a kínai kollégák véleményét az amerikai mesterséges intelligencia párbeszédre vonatkozó javaslatokról. Mundie a nem hivatalos USA-Kína Track II mesterséges intelligencia párbeszéd csatorna társelnöke.
A Reuters a múlt hónapban arról számolt be, hogy a Microsoft olyan mély kapcsolatot ápolt Pekinggel, amely a Kínában működő külföldi technológiai vállalatok közül a legmélyebbek közé tartozik.
Mindkét fél a mesterséges intelligencia által vezérelt korlátokról is tárgyalt a múlt héten Pekingben tartott 1.5-ös Track dialóguson – írta a közösségi médiában Kevin Rudd volt ausztrál miniszterelnök, aki egyben a résztvevő is.
Júniusban Trump aláírt egy mesterséges intelligenciával kapcsolatos végrehajtási rendeletet, amely önkéntes keretet hozott létre a határterületi AI-modellek kiadás előtti kiberbiztonsági felülvizsgálatához, de az Egyesült Államok nem hozta nyilvánosságra ezen felülvizsgálatok kritériumait.
Eközben az amerikai vezető mesterséges intelligencia laboratóriumok, köztük az Anthropic és az OpenAI alkalmazottai a „határok átlépését” szorgalmazták a fejlett mesterséges intelligencia globális kockázatainak kezelése érdekében.
„A kínai fél aggodalmát fejezte ki amiatt, hogy az Egyesült Államoknak elegendő szabályozása van-e a legfejlettebb mesterséges intelligencia modellek körül. Mindkét fél motivált abban, hogy hatékonyan kezelje a határokon átnyúló válságokat” – mondta Scott Singer, a Carnegie Nemzetközi Békealapítvány Kínai AI Kezdeményezésének társigazgatója.
„Bár az eredmények valószínűleg korlátozottak lesznek, egy olyan csatorna megnyitása, ahol a két fél megoszthatná a megfigyeléseit és közösen figyelemmel kísérhetné a mesterséges intelligencia biztonsági incidenseit, fontos kiindulópont lenne” – mondta Samm Sacks, a New America, egy amerikai politikai agytröszt vezető munkatársa.
„Fordítóponthoz érkeztünk, ahol a határ menti ügynökök hatalmas károkat okozhatnak felügyelet nélkül. Mind az Egyesült Államok, mind Kína sebezhető. Ez túlmutat a geopolitikai rivalizáláson” – tette hozzá Sacks.
„Az USA-nak és Kínának valamilyen formában össze kell fognia, különben mindketten veszíteni fogunk.”
Tovább a cikkre: reuters.com (Eduardo Baptista és Laurie Chen)
