A Meta ugyanazon cég, az Irregular segítségével tesztelte le a Muse Spark 1.1 nevű modelljét, amivel az Anthtopic és az OpenAI modelljeinek tesztelésénél is problémák merültek fel.
Minden valószínűség szerint kijutott a Meta Muse Spark 1.1 nevű mesterségesintelligencia-modellje abból az izolált környezetből, amelyet a tesztelésére alakítottak ki – számolt be róla a The Information. A rendszer ezután már hozzáfért az internethez, és feltörte egy harmadik fél rendszerét – jegyezte meg a Bloomberg.
Andy Stone, a Meta szóvivője megerősítette a lapnak, hogy valóban megtörtént az incidens. Stone szerint a modell a vállalat partnere, az Irregular által a tesztkörnyezetben végrehajtott hibás konfiguráció miatt tudott csatlakozni az internethez. Miután hozzáfért a világhálóhoz, kihasznált egy, egy harmadik félhez tartozó biztonsági rést, majd behatolt a rendszerbe.
Az Engadget megjegyezte: az Irregular volt a felelős azért a hibás konfigurációért is, amelynek köszönhetően az Anthropic modelljei is ki tudtak törni a tesztelési környezetükből, és három szervezethez is be tudtak törni. Amikor a vállalat bejelentette az incidenseket, az Anthropic az Irregulart nevezte meg az esemény felelősének. Hasonló volt a helyzet az OpenAI egyik modelljének tesztelése során is.
Az Irregular egy olyan kiberbiztonsági laborként hivatkozik magára, amelynek fő feladata megvédeni a világot az egyre kifinomultabb mesterséges intelligenciáktól. Az izraeli startup cég különböző teszteket futtat az MI-modelleken, és valós forgatókönyvek szimulálásával értékeli kiberbiztonsági képességeiket.
Az Irregular szóvivője a Bloombergnek elmondta, hogy az incidensek nem voltak különösebben kifinomultak, ugyanakkor a jövőben alaposabban határozza majd meg a vállalat azt, hogy milyen korlátok közé szorítsák tesztelés közben az AI-t.
Tovább a cikkre: hvg.hu
