Az Anthropic társalapítója szerint a mesterséges intelligencia jövőre önmaga fejlesztésére is alkalmassá válik, miközben már egyre kreatívabban dolgozik.
„Most valószínűbbnek tartom, hogy a teljes RSI (rekurzív önfejlesztés) 2027-ben válik lehetővé, míg korábban azt gondoltam, hogy inkább 2028-ban kerül sor erre” – írta a Claude-ot fejlesztő Anthropic társalapítója személyes hírlevelében, az Import AI-ban.
Clark nézete részben egy új benchmark teszten alapul, mely kimutatta, hogy a mesterséges intelligencia „kísérleti kutatási ízlése” 2025 decembere óta nagyjából háromhavonta megduplázódik.
A központi érv az, hogy ha az AI jól tudja elvégezni a mesterségesintelligencia-kutatást, akkor kevesebb emberi segítséggel is elkezdhetne fejlődni.
„Az RSI lényege, amikor egy mesterséges intelligencia elég jóvá válik az AI kutatásában ahhoz, hogy egy jobb mesterséges intelligenciát építsen, amely még jobbat épít, és ez így folytatódik tovább egy önfejlesztő ciklusban. A „kutatási ízlés” pedig a jó tudományos ítélőképességet jelöli, avagy a képességet arra, hogy kiválasszuk, mely problémák számítanak, a kísérleteket helyesen tervezzük meg és az eredményeket helyesen értelmezzük. A problémaválasztást azonban nem méri ez a fajta teszt.”
Clark idővonal-eltolódása a mesterséges intelligencia matematikai áttöréseire is támaszkodik. E forgatókönyv szerint a mesterséges intelligencia fejlődése már nem pusztán az emberi kutatók számától függne.
A teszt nyolc, valós AI-fejlesztésből származó feladatot adott az AI-nak, például betanítási adatok előkészítését és modellek finomhangolását, és számos cég 24 valós szakértőjének eredményeivel is összevetették az eredményeket. A legjobb modellnek az Anthropic Opus 5.5-ös modellje bizonyult, amelyik
végül a szakértők átlagos kísérletenkénti költségének körülbelül 1/30-ad részével múlta felül az emberi alapértéket.
Clark egyébként egy korábbi esszéjében azt állította, a kreativitás a kulcsfontosságú változó abban, hogy a mesterséges intelligencia milyen gyorsan tud fejlődni. De egy év eleji írásában még úgy ítélte, jelentős kreativitás nem mutatható ki az AI működésében.
A Microsoft vezetője a napokban amiatt akadt ki, hogy még a legegyszerűbb termékek is agyon vannak szabályozva az AI-hoz képest.
Tovább a cikkre: economx.hu (Sándor Zoltán)
Mesterséges intelligencia a sütődben? Az Anthropic figyelmeztet, hogy a modellek „hónapok múlva” képesek lesznek magukat önreplikálni az okoseszközökön
A kutatók szerint a „mesterséges intelligencia által termelt férgek” hamarosan beszivároghatnak az internetre csatlakoztatott eszközökbe, miközben a fokozott védőkorlátokat követelik.
Az Anthropic figyelmeztet, hogy egyes mesterséges intelligencia modelljei hamarosan „önreplikálódhatnak”, és módokat találhatnak arra, hogy beszivárogjanak az internetre csatlakoztatott eszközökbe, például az okoshűtőkbe és az automata porszívókba.
Amint ez megtörténik, a cég szerint a modellek adatközpontok nélkül is képesek lesznek önállóan működni ezeken az eszközökön belül. Az ilyen önreplikáció egy elszabadult AI-modell feletti kontroll jelentős elvesztését jelentené.
„Egy ilyen replikátort nehéz lenne leállítani” – írták az antropológusok egy hétfőn közzétett jelentésben –, „mivel nincs központi pont, ahol le lehetne állítani.”
A cég szerint ezek az „mesterséges intelligencia férgek”, egyfajta autonóm rosszindulatú programok, „hónapok múlva” szerezhetnek ilyen képességeket. Amint az irányíthatatlan mesterséges intelligencia rendszerek elérik az intelligens eszközök feltörésének képességét, hálózatokon keresztül terjedhetnek, miközben elkerülik az észlelést. A legrosszabb esetben az Anthropic szerint a különböző mesterséges intelligencia férgek „rajzhatnak” együtt, hogy megtámadják a számítógépes hardvereket.
„Célul kell tűznünk rendszereink megerősítését, hogy megnehezítsük az ilyen replikátorok terjedését, de fel kell készülnünk arra is, hogy egy olyan világban kell megbirkóznunk, ahol ezek az egek állandóan itt maradnak” – írták a kutatók.
Az Anthropic új jelentése akkor jelent meg, amikor a mesterséges intelligencia biztonságával kapcsolatos aggodalmak a tetőfokára hágott. Az elmúlt hónapokban folyamatosan érkeztek jelentések mesterséges intelligencia fejlesztő cégektől, köztük az Anthropictól és az OpenAI-tól, amelyekben azt írják, hogy ügynökeik képesek önállóan cselekedni, és betörni más vállalatok és kormányzati szervek rendszereibe.
A leleplezések kutatókat, törvényhozókat és vezetőket, köztük Dario Amodeit, az Anthropic vezérigazgatóját és Sam Altmant, az OpenAI vezérigazgatóját arra késztették, hogy lassítást és fokozott korlátozásokat sürgessenek a virágzó iparágban. Ennek ellenére mindkét vállalat továbbra is lendületesen fejleszt és dob piacra új modelleket.
Az Anthropic „határvidéki vörös csapata”, a mesterséges intelligencia rendszereinek stressztesztelésével megbízott egység, hétfőn tette közzé a jelentést. A csapat célja, hogy feltárja mesterséges intelligencia modelljeik képességeit. Az önreplikáló mesterséges intelligencia férgek forgatókönyvében a kutatók arra kérték az ügynököt, hogy feltörje az internetre csatlakoztatott eszközöket.
Azt találták, hogy a mesterséges intelligencia önreplikációja valószínűleg csak kisebb modellekkel működne, és hogy az otthonok és a kisvállalkozások lennének az ilyen támadások elsődleges célpontjai. Az Anthropic által sebezhetőként felsorolt eszközök mindegyike beépített kisméretű mesterséges intelligencia chipekkel rendelkezik, beleértve az okossütőket, okostévéket, automata fűnyírókat, biztonsági kamerákat és videokonferencia-egységeket.
A kutatók arra a következtetésre jutottak, hogy nem világos, milyen formát ölthet a mesterséges intelligencia replikációja. Azt mondták, hogy lehet egy lassú modell, mint a „digitális nyálkapenész”, amely átveri az embereket számítási kreditekért, vagy egy „erős kibermodell”, amely gyorsan feltöri a nagy létesítményeket, például az adatközpontokat.
Ettől függetlenül az antropikus kutatók szerint a jövő „tele lesz mindenféle hardveren futó ügynökökkel, beleértve azokat is, amelyek nem emberi ellenőrzés alatt állnak”.
Tovább a cikkre: theguardian.com (Dara Kerr)
