A műszaki igazgató szerint az új mesterséges intelligencia modell „minden tekintetben ugyanolyan hatékony”, mint a világ legjobb biztonsági kutatói.
A hónap elején az Anthropic azt nyilatkozta, hogy a Mythos Preview modellje annyira jó a kiberbiztonsági sebezhetőségek felderítésében, hogy a vállalat a kezdeti kiadást „a kritikus iparági partnerek egy korlátozott csoportjára” korlátozta . Azóta heves vita folyik arról, hogy a modell a felturbózott mesterséges intelligencia által támogatott hackelés korszakát vetíti-e előre , vagy az Anthropic csak felhajtást kelt a mesterséges intelligencia általi fejlődés egy viszonylag normális lépcsőfoka iránt .
A Mozilla kedden néhány fontos adattal járult hozzá a vitához, egy blogbejegyzésben azt írva , hogy a Mythos Preview korai elérése segített előre azonosítani a Firefox 150 ezen a héten megjelent kiadásában található 271 biztonsági rést . Az eredmények elég jelentősek voltak ahhoz, hogy Bobby Holley, a Firefox műszaki igazgatója lelkesedéssel fejezze ki, miszerint a kibertámadók és a kibervédők közötti soha véget nem érő csatában „a védőknek végre esélyük van a döntő győzelemre”.
„Lekerekítettük a görbét”
Holley nem részletezte a Mythos által állítólag a Firefox legújabb verziójának kiadatlan forráskódjának elemzésével felfedezett több száz sebezhetőség súlyosságát. Összehasonlításképpen azonban megjegyezte, hogy az Anthropic Opus 4.6 modellje a Firefox 148 múlt havi elemzése során mindössze 22 biztonságérzékeny hibát talált .
Holley szerint a Mythos által azonosított sebezhetőségeket akár automatizált „fuzzing” technikákkal is felfedezhették volna , vagy egy „elit biztonsági kutató” segítségével, aki végiggondolta volna a böngésző összetett forráskódját. A Mythos használata azonban sok esetben kiküszöbölte azt, hogy „hónapokig tartó költséges emberi erőfeszítést kelljen egyetlen hiba megtalálására összpontosítani” – tette hozzá Holley.
Holley azt írja, hogy a Mythoshoz hasonló mesterséges intelligencia eszközök a hibák ilyen hatékony azonosításával a kiberbiztonsági egyensúlyt a védők felé billenti, akik akkor profitálnak, amikor a sebezhetőségek felfedezése mindkét fél számára olcsóbbá válik. „A számítógépek néhány hónappal ezelőtt teljesen képtelenek voltak erre, most pedig kiválóan teljesítenek benne” – írja Holley. „Sok éves tapasztalattal rendelkezünk a világ legjobb biztonsági kutatóinak munkájának elemzésében, és a Mythos Preview minden tekintetben ugyanilyen képességekkel rendelkezik.”
Egy Wired interjúban Holley azt mondta, hogy mostantól az ilyenfajta mesterséges intelligencia által támogatott sebezhetőségi elemzéssel „minden szoftvernek foglalkoznia kell, mert minden szoftverben rengeteg hiba rejlik a felszín alatt, amelyek most felfedezhetők”. És bár lehetséges, hogy a Mythosnál fejlettebb jövőbeli modellek képesek lesznek olyan hibákat is találni, amelyeket a jelenlegi modellek nem vesznek észre, Holley azt mondta, bízik benne, hogy „legalábbis a Firefox oldalán, miután itt volt egy kis előnyünk, leküzdöttük a nehézségeket”.
A mesterséges intelligencia által támogatott védelmi kesztyű áthidalása különösen fontos lehet a modern internet nagy részét alátámasztó nyílt forráskódú projektek számára. Ez egyrészt azért van, mert a nyilvános kódbázisokat a mesterséges intelligencia rendszerek könnyebben felfedezhetik a sebezhetőségek szempontjából, másrészt pedig azért, mert sok ilyen projekt biztonsága érdekében rendkívül kevés önkéntes karbantartásra támaszkodik.
A múlt héten a New York Timesban megjelent esszéjében Raffi Krikorian, a Mozilla műszaki igazgatója azzal érvelt, hogy a hibák felkutatásának és az összetett szoftverek írásának emberi nehézségei egyfajta egyensúlyt teremtettek a kiberfenyegetések kutatásában, amelyet a Mythos feltörhet. „A programozó, aki életének 20 évét adta olyan [nyílt forráskódú] kód karbantartására, amely emberek milliárdjai által használt termékekben fut? Még nincs hozzáférése a Mythoshoz. Pedig kellene neki” – írta Krikorian.
Tovább a cikkre: arstechnica.com (Kyle Orland)
