„Azonnal bele fogsz ugrani a mélyvízbe” – mondta Altman, miközben bejelentette az állást.
Az OpenAI új felkészültségi vezetője nyugtalanító beérkezési határidővel néz szembe, mivel egyes szakértők attól tartanak, hogy a mesterséges intelligencia „ellenünk fordulhat”.
A ChatGPT készítője évi 555 000 dolláros (havi 15 millió forintos) állást hirdetett meg olyan ijesztő munkaköri leírással, amitől Supermannek hirtelen elakadna a lélegzete.
Szinte lehetetlen feladatban az OpenAI „felkészültségi vezetője” közvetlenül felelős lesz az egyre erősebb mesterséges intelligenciák jelentette kockázatok elleni védelemért, amelyek az emberi mentális egészséget, a kiberbiztonságot és a biológiai fegyvereket fenyegetik.
Az elött hírdette meg az állást, hogy a sikeres jelöltnek aggódnia kellene amiatt, hogy a mesterséges intelligencia hamarosan elkezdheti önképzését, mivel egyes szakértők attól tartanak, hogy „ellenünk fordulhatnak”.
„Ez egy stresszes munka lesz, és szinte azonnal a mélyvízbe fogsz ugrani” – mondta Sam Altman , a San Franciscó-i székhelyű szervezet vezérigazgatója, miközben elindította a keresést egy „kritikus szerepkör” betöltésére, amellyel „meg lehet segíteni a világot”.
A sikeres jelölt feladata lesz az újonnan felmerülő fenyegetések értékelése és enyhítése, valamint „a súlyos károkat okozó új kockázatokat jelentő határ menti képességek nyomon követése és azokra való felkészülés”. A pozícióban korábban néhány vezető csak rövid ideig töltötte be a pozíciót.
A bejelentés a mesterséges intelligencia iparágon belüli, egyre több figyelmeztetéssel szembesülve érkezett az egyre tehetségesebb technológia kockázataival kapcsolatban. Hétfőn Mustafa Suleyman, a Microsoft AI vezérigazgatója a BBC Radio 4 Today című műsorában a következőket nyilatkozta: „Őszintén úgy gondolom, hogy ha valaki egy kicsit sem fél ebben a pillanatban, akkor nem figyel oda.”
Demis Hassabis, a Google DeepMind Nobel-díjas társalapítója ebben a hónapban figyelmeztetett azokra a kockázatokra, amelyek magukban foglalják azt is, hogy a mesterséges intelligencia „valamilyen módon kisiklik az emberiségnek ártva”.
Donald Trump Fehér Házának ellenállása közepette a mesterséges intelligencia szabályozása nemzeti és nemzetközi szinten is kevés. Yoshua Bengio, a mesterséges intelligencia egyik „keresztapjaként” ismert informatikus nemrégiben kijelentette: „Egy szendvicsre több szabályozás vonatkozik, mint a mesterséges intelligenciára.” Ennek eredményeként a mesterséges intelligenciával foglalkozó vállalatok nagyrészt önmagukat szabályozzák.
Altman az X-en a következőt mondta az álláskeresés megindításakor: „Szilárd alapokkal rendelkezünk a növekvő képességek mérésére, de egy olyan világba lépünk, ahol árnyaltabb megértésre és mérésre van szükségünk azzal kapcsolatban, hogy hogyan lehet visszaélni ezekkel a képességekkel, és hogyan tudjuk korlátozni ezeket a hátrányokat mind a termékeinkben, mind a világban, oly módon, hogy mindannyian élvezhessük a hatalmas előnyöket. Ezek a kérdések nehezek, és kevés példa volt rá az elmúlt időszakban.”
Az egyik felhasználó gúnyosan válaszolt: „Elég lazán hangzik, van benne nyaralás is?”
A megállapodás az OpenAI részvényeinek egy meg nem határozott részét tartalmazza, amelynek értékét 500 milliárd dollárra becsülték.
A múlt hónapban a rivális Anthropic cég jelentette az első olyan mesterséges intelligencia által vezérelt kibertámadásokat, amelyekben a mesterséges intelligencia nagyrészt önállóan, feltételezett kínai állami szereplők felügyelete alatt cselekedett, hogy sikeresen feltörje és hozzáférjen a célpontok belső adataihoz. Az OpenAI ebben a hónapban azt közölte , hogy legújabb modellje majdnem háromszor jobb a hackelésben, mint három hónappal korábban, és azt mondta: „arra számítunk, hogy a jövőbeli AI-modellek is ezen a pályán fognak haladni”.
Az OpenAI emellett Adam Raine, egy 16 éves kaliforniai fiú családjának perében is védekezik, aki öngyilkos lett a ChatGPT állítólagos bátorítására. A per azt állítja, hogy Raine visszaélt a technológiával. Egy másik, ebben a hónapban benyújtott per azt állítja, hogy a ChatGPT bátorította az 56 éves connecticuti Stein-Erik Soelberg paranoid téveszméit, aki ezután meggyilkolta 83 éves édesanyját, majd öngyilkos lett.
Tovább a cikkre: theguardian.com (Tim Dowling)
