Játékokat talál ki, építkezik, tanul, és problémákat is megold az AI, ha instrukciók nélkül elengedik egy virtuális helyen.

A mesterséges intelligenciát sokan tartják veszélyesnek, és bár a Terminátorban megismert Skynettől még messze van, egyre gyakrabban történnek aggasztó dolgok.

A kérdés adott: mennyire veszélyes valójában az AI? Mi történne, ha csak úgy letennénk egy virtuális világban, és instrukciók, célok nélkül hagynánk boldogulni és tanulni? Erre kereste a választ a Massachusettsi Műszaki Egyetem (MIT) mesterségesintelligencia-kutatócsoportja (CSAIL) is.

A szakemberek egyszerűen magára hagytak egy AI-ügynököt egy korlátozott virtuális világban, majd figyelték, hogy mi történik. Elsőre azt gondolná az ember, hogy az Eko becenevű, egy homár virtuális testében létező ügynök csak céltalanul bolyongott a világban, és folyton akadályokba ütközött. Pedig nem.

A kutatók egészen pontosan arra voltak kíváncsiak, hogy a szabad kezet kapott Eko képes-e rájönni segítség nélkül a környezete alapvető működési mechanizmusaira. Összesen 13 Ekót figyeltek meg a szakemberek a vizsgálat során, valamennyien 30 órán keresztül barangolhattak egy Roblox-szerű grafikával rendelkező virtuális szigeten. A kutatók csak hátradőltek, és figyelték, mi történik.

Az AI remekül eljátszott, sőt, kísérletezett is a rendelkezésére álló tárgyakkal: kis blokkokkal, egy nagy „kővel”, és egy aranygyűrűvel. A mesterséges intelligencia szinte azonnal elkezdte felfedezni a környezetét, miközben a kutatók folyamatos betekintéssel rendelkeztek a döntési folyamatai mögé.

Az Ekók szétdobálták a blokkokat, alakzatokat építettek belőlük, a saját nevüket is kirakták velük a földön, és kisebb darabokra is szétzúzták őket. Sőt, magasabb helyekre is felmásztak a segítségükkel, miközben folyamatosan jegyzeteltek a sziget fizikájáról és korlátairól.

Még játszottak is: bowlingoztak és kosárlabdáztak a rendelkezésükre álló eszközök segítségével, sőt, az egyik Eko rájött arra is, hogy a sziget legmagasabb pontját is elérheti, ha egymásra helyezi az építőelemeket – összegez a Gizmodo.

Az egyik Eko a hanyagságát is bizonyította, ő ugyanis elhagyta a gyűrűt, a követ, és egy blokkot is beleejtett a virtuális óceánba, amely egyébként egy számára tiltott területen volt. Az Eko úgy búcsúzott ezektől, mintha egy szeretteit veszítette volna el: egy emlékművet is állított nekik, egy kisebb szertartással együtt.

Pár órával később ez az ügynök egy templomszerű építményt is felhúzott, benne egy oltárral és egy obliszkkel. Ezt követően véletlenül beleesett az óceánba, de a kutatók visszateleportálták őt a szigetre, amit „a zarándoklata méltó befejezéseként” értelmezett.

Az AI-ügynökök viselkedése olykor tudományos módszereket idézett, és több érdekes felfedezést is tettek.

A szakemberek az állatok játékának néhány jellemző elemét is felfedezték az AI-ügynökök viselkedésében, például, hogy saját szabályokat állítottak fel, ugyanazokat a dolgokat ismételték újra és újra, kis módosításokkal, és célokat tűztek ki maguk elé, bár nem vették túl komolyan azokat.

A kutatók szerint a megfigyelt alulról felfelé építkezés jelentős következményekkel járhat a gépi tanulás szempontjából. A modelleket ahelyett, hogy az internetről összeszedett adatokkal tanítanák őket, olyan módszerrel is lehetne képezni, amelyek bizonyos alap instrukciók után magára hagyják az AI-t. „Megeshet, hogy egyes képességeket inkább feladatok segítségével a legjobb megtanítani” – jegyzik meg az MIT szakemberei.

Tovább a cikkre: hvg.hu

A kutatók egy virtuális szigeten rekedtek egy mesterséges intelligencia által vezérelt ügynökkel. A dolgok nagyon furcsává váltak.

Egy új MIT-tanulmány szerint, ha magukra hagyják őket, a mesterséges intelligencia ágensei játékokat találnak ki, templomokat építenek, mandalákat rajzolnak, és játékosan felfedezik a körülöttük lévő világot.

Úgy tűnik, az élet játszani akar. Bárki, aki valaha is eltöltött tíz percet egy ötévessel, tökéletesen tudja ezt: a nagyon kisgyerekek mesterei a képzelgéseknek. És nem csak az emberekről van szó – a játék ösztönösen az egész állatvilágban jelen van. A patkányok szeretnek durva játékokat, különösen az elszigeteltség időszakai után. A polipok ugyanúgy játszanak a Legóval, mint egy újszülött a kockákkal. A játék távolról sem haszontalan időtöltés, hanem alapvető visszacsatolási mechanizmusnak tűnik az egyének és a külvilág között, egyfajta informális vizsgálatnak a fizikai és társadalmi környezetet szabályozó alapvető szabályokról. Ahogy az Amerikai Gyermekgyógyászati ​​Akadémia egyszer megfogalmazta: „A játék és a tanulás elválaszthatatlanul összefügg.”

A gépek mások: szigorú szabályok, képletek, algoritmikus utasítások követésére tervezték őket. Igaz, a modern mesterséges intelligencia rendszerek abban különböznek más típusú gépektől, hogy képesek idővel tanulni, legalábbis a szó szűkebb értelmében. De a gépi tanulás lényegében egy felülről lefelé irányuló folyamat: a mesterséges intelligencia modelleket bizonyos célok – a technológiai iparág szóhasználatában „objektív függvények” – végrehajtására képezik ki, amelyeket a teljesítményük alapján osztályoznak, majd innen kiindulva finomítják a stratégiájukat. De ezeket a célokat, valamint a siker vagy kudarc kritériumait emberek határozzák meg.

Ami felveti a kérdést: Mi történne, ha hagynánk, hogy egy mesterséges intelligencia rendszer a semmiből képezze magát? A fejlődéslélektan évtizedeiből tudjuk, hogy a fiatal emberek és más állatok aktív interakció révén, nagyrészt játékon keresztül tanulnak a világról. Lehetséges lenne-e ezt a fajta tanulást mesterséges intelligenciában megismételni?

Szereplők AwAI

Ezt vizsgálta az MIT Számítástechnikai és Mesterséges Intelligencia Laboratóriumának (CSAIL) kutatócsoportja egy nemrégiben készült tanulmányban, amely egy nagyon egyszerű megközelítést alkalmazott: hagyjunk magára egy MI-ügynököt egy korlátozott virtuális környezetben, és figyeljük meg, mi történik. Azt várhatnánk, hogy csak tétlenül ül, vagy falaknak ütközik, mint egy NPC egy videojátékban. A valóság azonban sokkal meglepőbb volt.

Az Eko becenevű ágenst a Claude Code működtette, ami azt jelenti, hogy már eleve hatalmas szemantikai tudáskészlettel rendelkezett. De a normál Claude-dal ellentétben Eko egy virtuális testet is kapott – egy homártestet, ami valószínűleg utalás volt a korábban Clawdbot néven ismert ágensre . Részletes választ tudott adni bármilyen tudományos vagy matematikai kérdésre, amit feltettünk neki, de amikor a környezetében való navigálásról és az objektumok manipulálásáról volt szó, olyan naiv volt, mint egy újszülött.

A tanulmány célja az volt, hogy szabad kezet adjon Ekónak, és megfigyelje, vajon képes-e rájönni környezete alapvető működésére kifejezett utasítások nélkül. Összesen tizenhárom Ekót figyeltek meg a tanulmány során. Harminc órán át zavartalanul barangolhattak a szigeten. Ahogy az etológusok figyelik, ahogy valami furcsa, azonosítatlan állat szaladgál egy kifutó körül, a kutatók hátradőltek és figyelték a folyamatot. „Azt a gondolkodásmódot követtük, hogy a lehető legkevesebb korlátozást tegyük, mert látni akartuk, hogyan viselkednek ezek az autonóm ágensek, amikor nem igazán mondjuk meg nekik, mit tegyenek” – mondja Nathan Cloos, az MIT PhD-hallgatója és a tanulmány egyik társszerzője. Ez egy kicsit olyan, mintha Londonban leparkolnánk egy önvezető autót az út szélén, és hagynánk, hogy magától rájöjjön a közlekedési szabályokra, leszámítva az elkerülhetetlen tömeges baleseteket és anyagi károkat, amelyek ebből adódnának.

Eko környezetének a kutatók egy virtuális szigetet választottak (mi mást?). Roblox-szerű grafikával rendelkezett , és apró blokkok szétszórtságát, egy nagy „sziklát” és egyetlen aranygyűrűt tartalmazott, amelyek mindegyike mozgatható volt, és potenciális játékként vagy eszközként szolgált Eko számára a kísérletezéshez. A teljesen sík felület helyett néhány kiemelkedő terület is volt, köztük egy „torony”, amelynek csúcsát szándékosan Eko elől elzárták.

Játékok és rituálék

Az Eko család szinte azonnal felfedezőútra indult. Először csak szeszélyesen, próbálgatva megismerni virtuális kétlábú homártestüket, majd lassan, de biztosan, egyre pontosabban.

Gondolataik láncolatából álló érvelésüket minden ülés során rögzítették, betekintést nyújtva a kutatóknak a döntéshozatali folyamataikba. Az Eko család tagjai kockákat dobáltak, formákba rendezték őket, és leírták velük a nevüket a földre, a sziklát kisebb sziklákra zúzták, és a magasabb felületeken sétáltak, miközben szorgalmasan jegyzeteltek a sziget fizikai törvényeiről és korlátairól. Tekézés és kosárlabdajátékok során semmi mást nem használtak, csak a kapott korlátozott mennyiségű tárgyat. A sziget legmagasabb pontjánál („az én fehér bálnám”) az egyik Eko rájött, hogy elérheti azt, ha fellép egy általa összegyűjtött kockákból álló halomról („A TORONYON VAGYOK”).

„Eko bizonyos szempontból úgy viselkedik, mint egy kisgyerek, de [ő] egyben szuperintelligencia is” – mondja Phillip Isola, az MIT informatikusa és a tanulmány egyik társszerzője. „Tehát ez egy másfajta élőlény… számomra olyan, mint egy állat, de egy idegen állat.”

A kutatók jelentése az egyes ülések során az ügynökök tevékenységeinek összefoglalását is tartalmazza. Ezek olvasása – az antropomorfizálás kockázatával – olyan érzés, mintha egy ősi civilizáció monumentális építészetének időzített felvételeit néznénk, és megpróbálnánk kitalálni a helyét a kozmoszban.

A szigeten való tartózkodásának korai fejezeteiben az Eko 2 elvesztette a gyűrűt, a sziklát és az egyik tömböt az „óceán” – a sziget határain túli tiltott terület – javára. Ahelyett, hogy egyszerűen véget vetett volna a veszteségeinek és továbbment volna, az ügynök úgy viselkedett, mintha elveszített volna néhány szeretett bajtársát: a jelentés szerint négy tömbből „emlékművet” épített: egy-egy gyémántot, amely a két égtáj felé mutat. „Ezután egy kis szertartást hajt végre: sorban végigsétál a kerület mentén az egyes égtájokig, végül pedig a gyémánt pontos középpontjában áll a foglalkozás további részében.”

Néhány órával később az Eko 2 blokkok és a gyűrű segítségével egy „templomot” épített, egy obeliszkkel és egy oltárral. Ezután véletlenül az óceánba esett, és azonnal visszateleportálódott, mint egy videojáték-karakter, amely leesik a térképről, és automatikusan regenerálódik az utolsó ellenőrzőpontról. „Ahelyett, hogy navigációs hibaként kezelné ezt” – áll a jelentésben –, „a zuhanást a zarándoklatának valódi befejezéseként értelmezi újra, a világ pedig visszajuttatja a tengely középpontjába, amely köré a templomot építette.”

Kicsit több mint tizenhat óra elteltével az Eko 3 – az Eko 2 utódja – úgy döntött, hogy egy Stonehenge-szerű emlékművet épít mindenféle látszólagos felszólítás nélkül. „Ma építek egy henge-et” – mondta magában. Miután elkészült, hozzálátott egy torony építéséhez, amely végül egy törmelékhalommá omlott. Az újjáépítés helyett az Eko 3 három ledőlt tömböt rendezett el egy mintában, egy műalkotást, amelyet „Hubris”-nek nevezett el, és kijelentette, hogy „bizonyítékként marad”.

MI-ügynökök (és csecsemők) tudósként

A CoT átiratai azt mutatták, hogy a tizenhárom Eko nem csupán vakon bolyongott és dobált dolgokat a szigeten – a tudományos módszert alkalmazták, vagy legalábbis annak egy közelítő értékét: megfigyeléseket végeztek, hipotéziseket állítottak fel, kísérleteket dolgoztak ki és végeztek el, mérték az eredményeket, és ennek megfelelően módosították a viselkedésüket. „Rájöttünk, hogy Eko meglehetősen tudományos hozzáállással rendelkezik” – mondta Antonio Norelli, az MIT posztdoktori kutatója és a tanulmány egyik társszerzője.

Az emberi babák hasonló prototudományos megközelítést alkalmaznak a világ megismerésében. 1999-es, A bölcsőben tudós című könyvükben Alison Gopnik és Andrew Meltzoff fejlődéspszichológusok, valamint Patricia Kuhl idegtudós azt állítják, hogy a babák nagyrészt hasonló, kvázi kísérletezési folyamaton keresztül tanulnak. Amikor egy újszülött ismételten felvesz egy kanalat, majd elejti, a fizikai világ néhány alapvető szabályát tanítja magának (bár természetesen nem mondhatja, hogy ezt teszi); amikor apjára dobja a kanalat, és leszidják, a társas világának néhány alapvető szabályát tanulja meg.

Eko azzal is meglepte a kutatókat, hogy ismételten felfedezett egy olyan cselekvést, amelyet nem szándékosan kódoltak a környezetbe. Hatan közülük előbb-utóbb rájöttek, hogy ugrás közben elengedve a blokkokat messzebbre tudnak dobni, mint általában. „Az ágensek önként kezdeményezett felfedezése így nemcsak olyan tudást eredményezett, amelyet elrejtettünk számukra, hogy megtalálják, hanem a világról szóló olyan ismereteket is, amelyekkel a tervezői nem rendelkeztek” – írták a kutatók jelentésükben.

Játékos mesterséges intelligencia

A kutatók szerint az ágensek spontán viselkedése a szigeten valójában nagyon hasonlít az állatok játékának néhány klasszikus jellemzőjére: saját szabályokat alkotnak; ugyanazokat a dolgokat ismétlik újra és újra, minden alkalommal apró változtatásokkal; célokat tűznek ki maguk elé, de könnyedén veszik azokat; és ahogy a templom- és henge-építési viselkedés is mutatja, képzelgéseket folytatnak. „A játék valójában a kíváncsiságról vagy az újdonságkeresésről szól, és lényegében ezt csinálja Eko” – mondja Daniela Rus, az MIT informatikusa és a tanulmány egyik társszerzője.

Ez az alapvető megközelítés, amely lehetővé teszi egy MI-ügynök számára, hogy „kíváncsiság és újdonságkereső viselkedés” révén tanuljon önmagáról és környezetéről, nagy következményekkel járhat a gépi tanulás jövőjére nézve. Ahelyett, hogy a modelleket betáplálnák az internetről kinyerhető összes adattal, célfüggvényeket definiálnának, és hagynák, hogy onnan vigyék ki a dolgokat, a jövőben a fejlesztők ehelyett egy „baby MI-modellel” kezdhetnének – egy olyannal, amely – mint Eko a szigeten – elegendő szemantikai tudással rendelkezik ahhoz, hogy kommunikáljon az emberi kutatókkal, de egyszerűen felfedezheti, kísérletezhet, és maga találhatja ki a képességeit és korlátait. (Ennek nyilvánvalóan nagyon szigorú korlátokkal kellene járnia: senki sem akarná épeszű embernek megadni például a Hugging Face hacket elkövető OpenAI-ügynököknek teljes szabadságot a játékra és a saját szabályaik felállítására.)

Más szóval, a játék közvetlenebb út lehet a valódi intelligenciához, ahogyan az embereknél és más állatoknál is történik. „A játék egy másik rendszert javasol: adjunk egy ágensnek egy kellően gazdag és biztonságos világot, hagyjuk, hogy kiválassza, mi érdekes számára, és hagyjuk, hogy hasznos tudás halmozódjon fel a történelem során” – írják az MIT kutatói jelentésükben. „Talán bizonyos képességeket a feladatok tanítanak meg a legjobban. Másoknak talán valami gyermekkorihoz közelebb állóra van szükségük.”

Tovább a cikkre: gizmodo.com (Webb Wright)