Az NVIDIA és alapító tagjai új szövetséget kötöttek olyan nyílt eszközök fejlesztése és megosztása érdekében, amelyek elősegítik a mesterséges intelligencia felelősségteljes használatát és a belé vetett bizalmat.
A nyílt forráskódú szoftverek a globális gazdaság kritikus pillérei. Alapját képezik a felhőalapú számítástechnikának, a pénzügyi szolgáltatásoknak, a gyártásnak, a telekommunikációnak, a kormányzati és az internetes szolgáltatásoknak azáltal, hogy a technológiát hozzáférhetővé és megfigyelhetővé teszik a szakértői közösségek számára.
A kiberbiztonság a nyílt forráskódú szoftverek három legnagyobb haszonélvezője közé tartozik. Az Open Secure AI Alliance – a Linux Foundation Akrites kezdeményezésének vezetésére és az OpenSSF közösségi munkájára építve – a nyílt technológiák használatával fog dolgozni a sebezhetőségek elhárításán és feltárásán.
Ahogy a nyílt forráskódú szoftverek közös alapot teremtettek a szoftverek számára, úgy az Egyesült Államok és partnerei most választás előtt állnak a mesterséges intelligencia biztonsága terén: vajon az infrastruktúránkat védő védelem néhány átlátszatlan rendszeren belül fog-e megbúvni, vagy nyílt modellekre, eszközökre és hámokra épül, amelyeket bármely védő tanulmányozhat, adaptálhat és telepíthet.
A világnak zárt és nyílt modellekre is szüksége van . A kiberbiztonság szempontjából a nyílt modellek és a nyílt hozzáférésű hálózatok elengedhetetlenek, mivel demokratizálják a védelmi képességeket, növelik az átláthatóságot a védők számára, lehetővé teszik a kibervédelmet az adatok védelme mellett, és testreszabható, lokalizált vezérlőkkel egészítik ki a határokon átívelő zárt modelleket. A nyílt forráskód lehetővé teszi a masszívan elosztott, közösségvezérelt és önvezérelt védelmet – egyetlen meghibásodási pont nélkül.
A nyílt modellek, mint bármely nagy teljesítményű technológia, visszaélhetnek – beleértve a védelmi intézkedések gyengítésére vagy a képességek kibertámadásokhoz való átcsoportosítására tett kísérleteket is –, de ezek a kockázatok nem kizárólag a nyílt rendszerekre jellemzőek, és mindenhol kezelni kell őket, ahol fejlett mesterséges intelligenciát alkalmaznak.
A közelmúltbeli Hugging Face biztonsági incidens egyértelmű emlékeztetőül szolgált: a kibervédőknek nyílt, határokon átívelő ügynöki rendszerekre van szükségük az önvédelemhez. Amikor a zárt mesterséges intelligencia eszközök – amelyek nem voltak képesek megkülönböztetni a támadókat a védőktől – blokkolták a létfontosságú forenzikus elemzéseket, a Hugging Face a nyílt súlyú GLM 5.2 modellt futtatta saját infrastruktúráján, hogy több mint 17 000 műveletet elemezzen és megfékezze a behatolást.
Ez az incidens egy gyakorlati igazságot mutatott rá: amikor a védők nem tudják megvizsgálni, adaptálni és futtatni a fejlett mesterséges intelligenciát a saját infrastruktúrájukon, a reagálási képességük pontosan akkor korlátozott, amikor a sebesség a legfontosabb. A vállalatoknak és az országoknak nyílt határokon átívelő védelmi eszközökre és technikákra van szükségük ahhoz, hogy a kritikus iparágak biztonsági rendszereket építhessenek ki egy több gyártótól származó ökoszisztémában, és elkerülhessék az egyszeres meghibásodási pontokat.
Ez az Open Secure AI Alliance küldetése: biztosítani, hogy a védők mindenhol nyílt, határokon átívelő eszközökkel rendelkezzenek, amelyekben megbízhatnak és amelyeket ellenőrizhetnek.
A felhőalapú számítástechnika, a kiberbiztonság, a vállalati szoftverek, a nyílt forráskódú alapítványok és a mesterséges intelligencia kutatásának vezetői – köztük az NVIDIA, az Adobe , a Cadence , a Capital One , a Cisco , a Cloudera , a Cloudflare , a Cognition , a CrowdStrike , a Databricks , a Dell Technologies , a DoorDash , az Elastic , a HPE , a Hugging Face , az IBM , a LangChain, a Linux Foundation , a Microsoft , a NAVER , a NetApp , a Nous Research , az OpenClaw, a Palantir , a Palo Alto Networks , a Red Hat , a Reflection AI, a Salesforce , az SAP, a ServiceNow , a Siemens, az SK Telecom, a Snowflake , a SpacexAI , a Synopsys , a Thinking Machines Lab és a TrendAI – az Open Secure AI Alliance alapító partnerei, amely mozgalom nyílt technológiák, technikák és eszközök fejlesztésére és megosztására törekszik a szoftverek és ügynökök védelme érdekében a mesterséges intelligencia korában.
Egyesek azzal érvelnek, hogy a nyílt modellek eleve kevésbé biztonságosak, mivel kibertámadásokhoz felhasználhatók, vagy módosíthatók a korlátok eltávolítása érdekében. Ezek a kockázatok valósak, de nem tűnnek el zárt rendszerekben, és a súlyok zárva tartása önmagában nem akadályozza meg az elszánt támadókat abban, hogy nagy teljesítményű mesterséges intelligenciát keressenek vagy kihasználjanak.
A helyes válasz nem az, hogy megtagadjuk a védők hozzáférését a működőképes nyílt rendszerekhez. A nyíltságot erős biztosítékokkal, a rosszindulatú visszaélések elleni egyértelmű szabályokkal, szigorú értékeléssel és gyors elhárítással kell párosítani. A kiberbiztonságban a biztonságosabb út az, amely több védőnek adja meg a lehetőséget a társadalom alapjául szolgáló rendszerek tesztelésére, ellenőrzésére és megerősítésére.
A védelmi szerveknek mind a határ menti zárt, mind a határ menti nyitott modellekre szükségük van, együttműködve, hogy a feladatuknak megfelelő rendszert választhassák, és biztosíthassák az átláthatóságot, az alkalmazkodóképességet és a szuverén ellenőrzést, bárhol is legyen szükség a biztonságukra.
A nyílt kutatás fokozza a kiberbiztonságot és a mesterséges intelligencia biztonságát
Egy MI-ügynök nem csupán egy nyelvi modell. Egy összetett rendszer, amely modellekből, kábelkötegekből és korlátokból épül fel.
A valódi mesterséges intelligencia biztonsága a teljes ügynökcsomagtól függ – identitástól, jogosultságoktól, hozzáférési jogosultságoktól, védőkorlátoktól, naplóktól és értékeléstől –, nem csak attól, hogy a modell súlyai nyitottak vagy zártak-e. A nyitott hozzáférési jogosultságok és eszközök megkönnyítik ezen vezérlők ellenőrzését, tesztelését és fejlesztését számos védő számára.
Az NVIDIA nyílt modellekkel, modellsúlyokkal, adatokkal és új ágensek hasznosításával kapcsolatos kutatásokkal járul hozzá az Open Secure AI Alliance munkájához, hogy felgyorsítsa az új kiberbiztonsági eszközök és technikák fejlesztését.
Az új, nyílt forráskódú NVIDIA Labs objektumorientált ágens (NOOA) projekt mostantól elérhető a GitHubon , hogy a fejlett mesterséges intelligencia biztonsági képességeit könnyebben hozzáférhetővé tegye az ágensek számára. A NOOA kutatási keretrendszer lehetővé teszi a ágensek jobb integrálását a modellekkel, így az ágensek viselkedése könnyebben tesztelhető, nyomon követhető, auditálható és szabályozható.
A Szövetség egészében a közreműködők egy nyílt védelmi rendszert építenek az ügynökök számára – az identitástól és az izolációtól kezdve a biztonságos modellformátumokon, a többmodelles szkennelésen és a biztonságos kódolási munkafolyamatokon át.
A HPE hozzájárul az SPIFFE/SPIRE projekthez , amely zéró bizalomalapú identitási keretrendszer-szabványokat és módszereket hoz létre, amelyek kriptográfiailag ellenőrizhetik a mesterséges intelligencia ügynökeit és szolgáltatásait, biztosítva, hogy csak a jogosult munkafolyamatok kommunikáljanak és férhessenek hozzá a vállalati erőforrásokhoz.
A Hugging Face felajánlotta a PyTorch Alapítványnak a Safetensors-t – egy biztonságos formátumot a mesterséges intelligencia modellsúlyainak tárolására, amely átláthatóságot és a távoli kódfuttatás megakadályozását biztosítja.
Az IBM és a Red Hat Lightwellje digitálisan aláírt javításokkal kiterjeszti a biztonságot a nyílt forráskódú ellátási láncban.
A Microsoft MDASH többmodelles ágensalapú szkennelési rendszere specializált MI-ágenseket állít össze a kihasználható hibák felfedezésére, megvitatására és bizonyítására.
A SpaceXAI nyílt forráskódúvá tette a Grok Build terminálalapú mesterséges intelligencia kódoló ügynököt a bizalom, az átláthatóság és az új képességek előmozdítása érdekében, és azt tervezi, hogy nyílt forráskódúvá teszi a Grok modellcsalád súlyozását is a fejlesztői és kutatói közösségek támogatása érdekében.
Felhívás a politikai döntéshozóknak és a szabályozó hatóságoknak
Miközben a politikai döntéshozók és a szabályozók a mesterséges intelligencia biztonságával küzdenek, kulcsfontosságú lesz, hogy a nyílt modelleket, a biztonsági eszközöket védelmi eszközként, és ne pedig hátrányként ismerjék el a mesterséges intelligencia és a kiberbiztonsági politikában. A nyílt, határokon átívelő mesterséges intelligenciarendszerekre vonatkozó általános korlátozások gyengítenék a védelmi kapacitást, és azzal a kockázattal járnának, hogy a hatalom, a függőség és a sebezhetőség néhány zárt szolgáltató kezében koncentrálódna.
A vállalatoknak és a kormányoknak be kellene fektetniük a mesterséges intelligencia alapú védelemhez szükséges megosztott, nyílt infrastruktúrába – adatkészletekbe, értékelési keretrendszerekbe, támadásszimulátorokba és red teaming eszközökbe –, ugyanúgy, ahogy a múlt generációi is befektettek a nyílt forráskódú szoftverekbe.
A jövő, amit építenünk kellene
A mesterséges intelligencia által vezérelt ügynökök kora a rugalmasság és a megosztott biztonság kora lehet. A megfelelő döntésekkel a nyílt és biztonságos MI-rendszerek megadhatják a védőknek a szükséges eszközöket, erősíthetik a versenyt, kiterjeszthetik a technológiai vezető szerepet, és biztosíthatják, hogy e rendkívüli technológia biztonsága mindenki számára nyilvánosan kiépüljön.
Ez a jövő nem azzal biztosítható, hogy feltételezzük, a titoktartás önmagában a biztonság. Olyan rendszerek kiépítésével biztosítható, amelyek elég erősek ahhoz, hogy ellenálljanak az ellenőrzésnek, elég rugalmasak ahhoz, hogy továbbfejleszthetők legyenek, és elég nyitottak ahhoz, hogy mozgósítsák a jogvédők teljes közösségét.
Ezt a jövőt érdemes építeni – és az Open Secure AI Alliance arra kéri a kormányokat, az ipart és a kutatókat, hogy csatlakozzanak a mesterséges intelligencia korszakának védelméhez.
Tovább a cikkre: blogs.nvidia.com
