Az NVIDIA \u00e9s alap\u00edt\u00f3 tagjai \u00faj sz\u00f6vets\u00e9get k\u00f6t\u00f6ttek olyan ny\u00edlt eszk\u00f6z\u00f6k fejleszt\u00e9se \u00e9s megoszt\u00e1sa \u00e9rdek\u00e9ben, amelyek el\u0151seg\u00edtik a mesters\u00e9ges intelligencia felel\u0151ss\u00e9gteljes haszn\u00e1lat\u00e1t \u00e9s a bel\u00e9 vetett bizalmat.<\/p>\n\n\n\n
A ny\u00edlt forr\u00e1sk\u00f3d\u00fa szoftverek a glob\u00e1lis gazdas\u00e1g kritikus pill\u00e9rei. Alapj\u00e1t k\u00e9pezik a felh\u0151alap\u00fa sz\u00e1m\u00edt\u00e1stechnik\u00e1nak, a p\u00e9nz\u00fcgyi szolg\u00e1ltat\u00e1soknak, a gy\u00e1rt\u00e1snak, a telekommunik\u00e1ci\u00f3nak, a korm\u00e1nyzati \u00e9s az internetes szolg\u00e1ltat\u00e1soknak az\u00e1ltal, hogy a technol\u00f3gi\u00e1t hozz\u00e1f\u00e9rhet\u0151v\u00e9 \u00e9s megfigyelhet\u0151v\u00e9 teszik a szak\u00e9rt\u0151i k\u00f6z\u00f6ss\u00e9gek sz\u00e1m\u00e1ra.<\/p>\n\n\n\n
A kiberbiztons\u00e1g a ny\u00edlt forr\u00e1sk\u00f3d\u00fa szoftverek h\u00e1rom legnagyobb haszon\u00e9lvez\u0151je k\u00f6z\u00e9 tartozik. Az Open Secure AI Alliance \u2013 a Linux Foundation Akrites<\/a> kezdem\u00e9nyez\u00e9s\u00e9nek vezet\u00e9s\u00e9re \u00e9s az OpenSSF<\/a> k\u00f6z\u00f6ss\u00e9gi munk\u00e1j\u00e1ra \u00e9p\u00edtve \u2013 a ny\u00edlt technol\u00f3gi\u00e1k haszn\u00e1lat\u00e1val fog dolgozni a sebezhet\u0151s\u00e9gek elh\u00e1r\u00edt\u00e1s\u00e1n \u00e9s felt\u00e1r\u00e1s\u00e1n.<\/p>\n\n\n\n Ahogy a ny\u00edlt forr\u00e1sk\u00f3d\u00fa szoftverek k\u00f6z\u00f6s alapot teremtettek a szoftverek sz\u00e1m\u00e1ra, \u00fagy az Egyes\u00fclt \u00c1llamok \u00e9s partnerei most v\u00e1laszt\u00e1s el\u0151tt \u00e1llnak a mesters\u00e9ges intelligencia biztons\u00e1ga ter\u00e9n: vajon az infrastrukt\u00far\u00e1nkat v\u00e9d\u0151 v\u00e9delem n\u00e9h\u00e1ny \u00e1tl\u00e1tszatlan rendszeren bel\u00fcl fog-e megb\u00favni, vagy ny\u00edlt modellekre, eszk\u00f6z\u00f6kre \u00e9s h\u00e1mokra \u00e9p\u00fcl, amelyeket b\u00e1rmely v\u00e9d\u0151 tanulm\u00e1nyozhat, adapt\u00e1lhat \u00e9s telep\u00edthet.<\/p>\n\n\n\n A vil\u00e1gnak z\u00e1rt \u00e9s ny\u00edlt modellekre<\/a> is sz\u00fcks\u00e9ge van . A kiberbiztons\u00e1g szempontj\u00e1b\u00f3l a ny\u00edlt modellek \u00e9s a ny\u00edlt hozz\u00e1f\u00e9r\u00e9s\u0171 h\u00e1l\u00f3zatok elengedhetetlenek, mivel demokratiz\u00e1lj\u00e1k a v\u00e9delmi k\u00e9pess\u00e9geket, n\u00f6velik az \u00e1tl\u00e1that\u00f3s\u00e1got a v\u00e9d\u0151k sz\u00e1m\u00e1ra, lehet\u0151v\u00e9 teszik a kiberv\u00e9delmet az adatok v\u00e9delme mellett, \u00e9s testreszabhat\u00f3, lokaliz\u00e1lt vez\u00e9rl\u0151kkel eg\u00e9sz\u00edtik ki a hat\u00e1rokon \u00e1t\u00edvel\u0151 z\u00e1rt modelleket. A ny\u00edlt forr\u00e1sk\u00f3d lehet\u0151v\u00e9 teszi a massz\u00edvan elosztott, k\u00f6z\u00f6ss\u00e9gvez\u00e9relt \u00e9s \u00f6nvez\u00e9relt v\u00e9delmet \u2013 egyetlen meghib\u00e1sod\u00e1si pont n\u00e9lk\u00fcl.<\/p>\n\n\n\n A ny\u00edlt modellek, mint b\u00e1rmely nagy teljes\u00edtm\u00e9ny\u0171 technol\u00f3gia, vissza\u00e9lhetnek \u2013 bele\u00e9rtve a v\u00e9delmi int\u00e9zked\u00e9sek gyeng\u00edt\u00e9s\u00e9re vagy a k\u00e9pess\u00e9gek kibert\u00e1mad\u00e1sokhoz val\u00f3 \u00e1tcsoportos\u00edt\u00e1s\u00e1ra tett k\u00eds\u00e9rleteket is \u2013, de ezek a kock\u00e1zatok nem kiz\u00e1r\u00f3lag a ny\u00edlt rendszerekre jellemz\u0151ek, \u00e9s mindenhol kezelni kell \u0151ket, ahol fejlett mesters\u00e9ges intelligenci\u00e1t alkalmaznak.<\/p>\n\n\n\n A k\u00f6zelm\u00faltbeli Hugging Face biztons\u00e1gi incidens<\/a> egy\u00e9rtelm\u0171 eml\u00e9keztet\u0151\u00fcl szolg\u00e1lt: a kiberv\u00e9d\u0151knek ny\u00edlt, hat\u00e1rokon \u00e1t\u00edvel\u0151 \u00fcgyn\u00f6ki rendszerekre van sz\u00fcks\u00e9g\u00fck az \u00f6nv\u00e9delemhez. Amikor a z\u00e1rt mesters\u00e9ges intelligencia eszk\u00f6z\u00f6k \u2013 amelyek nem voltak k\u00e9pesek megk\u00fcl\u00f6nb\u00f6ztetni a t\u00e1mad\u00f3kat a v\u00e9d\u0151kt\u0151l \u2013 blokkolt\u00e1k a l\u00e9tfontoss\u00e1g\u00fa forenzikus elemz\u00e9seket, a Hugging Face a ny\u00edlt s\u00faly\u00fa GLM 5.2 modellt futtatta saj\u00e1t infrastrukt\u00far\u00e1j\u00e1n, hogy t\u00f6bb mint 17 000 m\u0171veletet elemezzen \u00e9s megf\u00e9kezze a behatol\u00e1st.<\/p>\n\n\n\n Ez az incidens egy gyakorlati igazs\u00e1got mutatott r\u00e1: amikor a v\u00e9d\u0151k nem tudj\u00e1k megvizsg\u00e1lni, adapt\u00e1lni \u00e9s futtatni a fejlett mesters\u00e9ges intelligenci\u00e1t a saj\u00e1t infrastrukt\u00far\u00e1jukon, a reag\u00e1l\u00e1si k\u00e9pess\u00e9g\u00fck pontosan akkor korl\u00e1tozott, amikor a sebess\u00e9g a legfontosabb. A v\u00e1llalatoknak \u00e9s az orsz\u00e1goknak ny\u00edlt hat\u00e1rokon \u00e1t\u00edvel\u0151 v\u00e9delmi eszk\u00f6z\u00f6kre \u00e9s technik\u00e1kra van sz\u00fcks\u00e9g\u00fck ahhoz, hogy a kritikus ipar\u00e1gak biztons\u00e1gi rendszereket \u00e9p\u00edthessenek ki egy t\u00f6bb gy\u00e1rt\u00f3t\u00f3l sz\u00e1rmaz\u00f3 \u00f6kosziszt\u00e9m\u00e1ban, \u00e9s elker\u00fclhess\u00e9k az egyszeres meghib\u00e1sod\u00e1si pontokat.<\/p>\n\n\n\n Ez az Open Secure AI Alliance k\u00fcldet\u00e9se: biztos\u00edtani, hogy a v\u00e9d\u0151k mindenhol ny\u00edlt, hat\u00e1rokon \u00e1t\u00edvel\u0151 eszk\u00f6z\u00f6kkel rendelkezzenek, amelyekben megb\u00edzhatnak \u00e9s amelyeket ellen\u0151rizhetnek.<\/p>\n\n\n\n A felh\u0151alap\u00fa sz\u00e1m\u00edt\u00e1stechnika, a kiberbiztons\u00e1g, a v\u00e1llalati szoftverek, a ny\u00edlt forr\u00e1sk\u00f3d\u00fa alap\u00edtv\u00e1nyok \u00e9s a mesters\u00e9ges intelligencia kutat\u00e1s\u00e1nak vezet\u0151i \u2013 k\u00f6zt\u00fck az NVIDIA, az Adobe , a Cadence , a Capital One , a Cisco , a Cloudera , a Cloudflare , a Cognition , a CrowdStrike , a Databricks , a Dell Technologies , a DoorDash , az Elastic , a HPE , a Hugging Face , az IBM , a LangChain, a Linux Foundation , a Microsoft , a NAVER , a NetApp , a Nous Research , az OpenClaw, a Palantir , a Palo Alto Networks , a Red Hat , a Reflection AI, a Salesforce , az SAP, a ServiceNow , a Siemens, az SK Telecom, a Snowflake , a SpacexAI , a Synopsys , a Thinking Machines Lab \u00e9s a TrendAI \u2013 az Open Secure AI Alliance alap\u00edt\u00f3 partnerei, amely mozgalom ny\u00edlt technol\u00f3gi\u00e1k, technik\u00e1k \u00e9s eszk\u00f6z\u00f6k fejleszt\u00e9s\u00e9re \u00e9s megoszt\u00e1s\u00e1ra t\u00f6rekszik a szoftverek \u00e9s \u00fcgyn\u00f6k\u00f6k v\u00e9delme \u00e9rdek\u00e9ben a mesters\u00e9ges intelligencia kor\u00e1ban.<\/p>\n\n\n\n Egyesek azzal \u00e9rvelnek, hogy a ny\u00edlt modellek eleve kev\u00e9sb\u00e9 biztons\u00e1gosak, mivel kibert\u00e1mad\u00e1sokhoz felhaszn\u00e1lhat\u00f3k, vagy m\u00f3dos\u00edthat\u00f3k a korl\u00e1tok elt\u00e1vol\u00edt\u00e1sa \u00e9rdek\u00e9ben. Ezek a kock\u00e1zatok val\u00f3sak, de nem t\u0171nnek el z\u00e1rt rendszerekben, \u00e9s a s\u00falyok z\u00e1rva tart\u00e1sa \u00f6nmag\u00e1ban nem akad\u00e1lyozza meg az elsz\u00e1nt t\u00e1mad\u00f3kat abban, hogy nagy teljes\u00edtm\u00e9ny\u0171 mesters\u00e9ges intelligenci\u00e1t keressenek vagy kihaszn\u00e1ljanak.<\/p>\n\n\n\n A helyes v\u00e1lasz nem az, hogy megtagadjuk a v\u00e9d\u0151k hozz\u00e1f\u00e9r\u00e9s\u00e9t a m\u0171k\u00f6d\u0151k\u00e9pes ny\u00edlt rendszerekhez. A ny\u00edlts\u00e1got er\u0151s biztos\u00edt\u00e9kokkal, a rosszindulat\u00fa vissza\u00e9l\u00e9sek elleni egy\u00e9rtelm\u0171 szab\u00e1lyokkal, szigor\u00fa \u00e9rt\u00e9kel\u00e9ssel \u00e9s gyors elh\u00e1r\u00edt\u00e1ssal kell p\u00e1ros\u00edtani. A kiberbiztons\u00e1gban a biztons\u00e1gosabb \u00fat az, amely t\u00f6bb v\u00e9d\u0151nek adja meg a lehet\u0151s\u00e9get a t\u00e1rsadalom alapj\u00e1ul szolg\u00e1l\u00f3 rendszerek tesztel\u00e9s\u00e9re, ellen\u0151rz\u00e9s\u00e9re \u00e9s meger\u0151s\u00edt\u00e9s\u00e9re.<\/p>\n\n\n\n A v\u00e9delmi szerveknek mind a hat\u00e1r menti z\u00e1rt, mind a hat\u00e1r menti nyitott modellekre sz\u00fcks\u00e9g\u00fck van, egy\u00fcttm\u0171k\u00f6dve, hogy a feladatuknak megfelel\u0151 rendszert v\u00e1laszthass\u00e1k, \u00e9s biztos\u00edthass\u00e1k az \u00e1tl\u00e1that\u00f3s\u00e1got, az alkalmazkod\u00f3k\u00e9pess\u00e9get \u00e9s a szuver\u00e9n ellen\u0151rz\u00e9st, b\u00e1rhol is legyen sz\u00fcks\u00e9g a biztons\u00e1gukra.<\/p>\n\n\n\n A ny\u00edlt kutat\u00e1s fokozza a kiberbiztons\u00e1got \u00e9s a mesters\u00e9ges intelligencia biztons\u00e1g\u00e1t<\/strong><\/p>\n\n\n\n Egy MI-\u00fcgyn\u00f6k nem csup\u00e1n egy nyelvi modell. Egy \u00f6sszetett rendszer, amely modellekb\u0151l, k\u00e1belk\u00f6tegekb\u0151l \u00e9s korl\u00e1tokb\u00f3l \u00e9p\u00fcl fel.<\/p>\n\n\n\n A val\u00f3di mesters\u00e9ges intelligencia biztons\u00e1ga a teljes \u00fcgyn\u00f6kcsomagt\u00f3l f\u00fcgg \u2013 identit\u00e1st\u00f3l, jogosults\u00e1gokt\u00f3l, hozz\u00e1f\u00e9r\u00e9si jogosults\u00e1gokt\u00f3l, v\u00e9d\u0151korl\u00e1tokt\u00f3l, napl\u00f3kt\u00f3l \u00e9s \u00e9rt\u00e9kel\u00e9st\u0151l \u2013, nem csak att\u00f3l, hogy a modell s\u00falyai \u200b\u200bnyitottak vagy z\u00e1rtak-e. A nyitott hozz\u00e1f\u00e9r\u00e9si jogosults\u00e1gok \u00e9s eszk\u00f6z\u00f6k megk\u00f6nny\u00edtik ezen vez\u00e9rl\u0151k ellen\u0151rz\u00e9s\u00e9t, tesztel\u00e9s\u00e9t \u00e9s fejleszt\u00e9s\u00e9t sz\u00e1mos v\u00e9d\u0151 sz\u00e1m\u00e1ra.<\/p>\n\n\n\n Az NVIDIA ny\u00edlt modellekkel, modells\u00falyokkal, adatokkal \u00e9s \u00faj \u00e1gensek hasznos\u00edt\u00e1s\u00e1val kapcsolatos kutat\u00e1sokkal j\u00e1rul hozz\u00e1 az Open Secure AI Alliance munk\u00e1j\u00e1hoz, hogy felgyors\u00edtsa az \u00faj kiberbiztons\u00e1gi eszk\u00f6z\u00f6k \u00e9s technik\u00e1k fejleszt\u00e9s\u00e9t.<\/p>\n\n\n\n Az \u00faj, ny\u00edlt forr\u00e1sk\u00f3d\u00fa NVIDIA Labs objektumorient\u00e1lt \u00e1gens (NOOA)<\/a> projekt mostant\u00f3l el\u00e9rhet\u0151 a GitHubon<\/a> , hogy a fejlett mesters\u00e9ges intelligencia biztons\u00e1gi k\u00e9pess\u00e9geit k\u00f6nnyebben hozz\u00e1f\u00e9rhet\u0151v\u00e9 tegye az \u00e1gensek sz\u00e1m\u00e1ra. A NOOA kutat\u00e1si keretrendszer lehet\u0151v\u00e9 teszi a \u00e1gensek jobb integr\u00e1l\u00e1s\u00e1t a modellekkel, \u00edgy az \u00e1gensek viselked\u00e9se k\u00f6nnyebben tesztelhet\u0151, nyomon k\u00f6vethet\u0151, audit\u00e1lhat\u00f3 \u00e9s szab\u00e1lyozhat\u00f3.<\/p>\n\n\n\n A Sz\u00f6vets\u00e9g eg\u00e9sz\u00e9ben a k\u00f6zrem\u0171k\u00f6d\u0151k egy ny\u00edlt v\u00e9delmi rendszert \u00e9p\u00edtenek az \u00fcgyn\u00f6k\u00f6k sz\u00e1m\u00e1ra \u2013 az identit\u00e1st\u00f3l \u00e9s az izol\u00e1ci\u00f3t\u00f3l kezdve a biztons\u00e1gos modellform\u00e1tumokon, a t\u00f6bbmodelles szkennel\u00e9sen \u00e9s a biztons\u00e1gos k\u00f3dol\u00e1si munkafolyamatokon \u00e1t.<\/p>\n\n\n\n A HPE hozz\u00e1j\u00e1rul az SPIFFE\/SPIRE projekthez<\/a> , amely z\u00e9r\u00f3 bizalomalap\u00fa identit\u00e1si keretrendszer-szabv\u00e1nyokat \u00e9s m\u00f3dszereket hoz l\u00e9tre, amelyek kriptogr\u00e1fiailag ellen\u0151rizhetik a mesters\u00e9ges intelligencia \u00fcgyn\u00f6keit \u00e9s szolg\u00e1ltat\u00e1sait, biztos\u00edtva, hogy csak a jogosult munkafolyamatok kommunik\u00e1ljanak \u00e9s f\u00e9rhessenek hozz\u00e1 a v\u00e1llalati er\u0151forr\u00e1sokhoz.<\/p>\n\n\n\n A Hugging Face felaj\u00e1nlotta a PyTorch Alap\u00edtv\u00e1nynak a Safetensors-t<\/a> \u2013 egy biztons\u00e1gos form\u00e1tumot a mesters\u00e9ges intelligencia modells\u00falyainak t\u00e1rol\u00e1s\u00e1ra, amely \u00e1tl\u00e1that\u00f3s\u00e1got \u00e9s a t\u00e1voli k\u00f3dfuttat\u00e1s megakad\u00e1lyoz\u00e1s\u00e1t biztos\u00edtja.<\/p>\n\n\n\n Az IBM \u00e9s a Red Hat Lightwellje<\/a> digit\u00e1lisan al\u00e1\u00edrt jav\u00edt\u00e1sokkal kiterjeszti a biztons\u00e1got a ny\u00edlt forr\u00e1sk\u00f3d\u00fa ell\u00e1t\u00e1si l\u00e1ncban.<\/p>\n\n\n\n A Microsoft MDASH<\/a> t\u00f6bbmodelles \u00e1gensalap\u00fa szkennel\u00e9si rendszere specializ\u00e1lt MI-\u00e1genseket \u00e1ll\u00edt \u00f6ssze a kihaszn\u00e1lhat\u00f3 hib\u00e1k felfedez\u00e9s\u00e9re, megvitat\u00e1s\u00e1ra \u00e9s bizony\u00edt\u00e1s\u00e1ra.<\/p>\n\n\n\n