Egyel\u0151re a megb\u00edzhat\u00f3 k\u00f6nyvek val\u00f3sz\u00edn\u0171leg vesz\u00e9lyesebbek, mint a mesters\u00e9ges intelligencia \u00e1ltal \u00e9p\u00edtett modellek, de ez a technol\u00f3gia folyamatosan fejl\u0151dik.<\/p>\n\n\n\n
A Wall Street Journal<\/a> \u00faj jelent\u00e9se szerint tavaly ny\u00e1ron vil\u00e1gszerte \u201et\u00f6bb sz\u00e1z\u201d felhaszn\u00e1l\u00f3r\u00f3l \u00e9szleltek vagy tudtak, hogy arr\u00f3l k\u00e9rdezt\u00e9k a ChatGPT-t<\/a>, hogyan k\u00e9sz\u00edthet m\u00e9rgeket \u00e9s biofegyvereket. A jelent\u00e9s forr\u00e1sk\u00e9nt \u201ea nagyobb MI-laborat\u00f3riumok, k\u00f6zt\u00fck az OpenAI jelenlegi \u00e9s kor\u00e1bbi alkalmazottait\u201d, valamint \u201ebiol\u00f3giai fegyvereket tanulm\u00e1nyoz\u00f3 politikai tan\u00e1csad\u00f3kat \u00e9s kutat\u00f3kat\u201d eml\u00edt. Az OpenAI \u00e1ll\u00edt\u00f3lag azt nyilatkozta a Journalnak, hogy a vonatkoz\u00f3 k\u00e9rd\u00e9sek t\u00f6bbs\u00e9ge m\u00e9rgekre vonatkozott.<\/p>\n\n\n\n A jelent\u00e9s nem r\u00e9szletezi teljesen a szab\u00e1lytalan lek\u00e9rdez\u00e9sek \u00e9szlel\u00e9s\u00e9nek pontos term\u00e9szet\u00e9t, de er\u0151sen arra utal, hogy ezek a ChatGPT k\u00f6zvetlen haszn\u00e1latai voltak, nem pedig v\u00e9szjelz\u00e9sekre ir\u00e1nyul\u00f3 gyakorlatok. \u00c9s \u00fagy t\u0171nik, hogy k\u00e9s\u0151bb val\u00f3di tud\u00f3soknak \u00e9s v\u00e9delmi szak\u00e9rt\u0151knek is bemutatt\u00e1k \u0151ket, hogy ellen\u0151rizz\u00e9k a ChatGPT pontoss\u00e1g\u00e1t \u00e9s hasznoss\u00e1g\u00e1t ezekkel a probl\u00e9m\u00e1s t\u00e9m\u00e1kkal kapcsolatban. \u201eBiol\u00f3giai \u00e9s terrorizmus szak\u00e9rt\u0151k k\u00e9s\u0151bb \u00e1ttekintett\u00e9k a ChatGPT-vel kapcsolatos adatcser\u00e9ket, \u00e9s n\u00e9melyiket hal\u00e1losan pontosnak \u00edt\u00e9lt\u00e9k \u2013 mondt\u00e1k az \u00fcgyben j\u00e1rtas emberek\u201d \u2013 \u00edrja a Journal.<\/p>\n\n\n\n A t\u00e9nyleges utas\u00edt\u00e1sokat \u201et\u00fcrelmesen\u201d \u00e9s egy k\u00f6z\u00e9piskol\u00e1s di\u00e1k tud\u00e1sszintj\u00e9n adt\u00e1k ki. A felhaszn\u00e1l\u00f3kat kitiltott\u00e1k emiatt a viselked\u00e9s miatt, de a Journal szerint a hat\u00f3s\u00e1gokat nem \u00e9rtes\u00edtett\u00e9k. Az OpenAI azt nyilatkozta a Journalnak, hogy az ilyen jelleg\u0171 lek\u00e9rdez\u00e9seket akkor k\u00fcldik a b\u0171n\u00fcld\u00f6z\u0151 szerveknek, ha azokat hihet\u0151, val\u00f3s vesz\u00e9lyeknek \u00edt\u00e9lik.<\/p>\n\n\n\n Eddig a legt\u00f6bb balj\u00f3slat\u00fa seg\u00edts\u00e9g, amit a fogyaszt\u00f3i szint\u0171 mesters\u00e9ges intelligencia \u00e1ltal vez\u00e9relt chatbotok \u00e1ll\u00edt\u00f3lag a rosszfi\u00faknak ny\u00fajtottak, ink\u00e1bb \u00e1ltal\u00e1nos tan\u00e1csad\u00e1s \u00e9s b\u00e1tor\u00edt\u00e1s volt<\/a>, mint b\u00e1rmi, ami a rosszfi\u00fak sz\u00e1m\u00e1ra jelent\u0151s fejleszt\u00e9snek t\u0171nhet. Az egyik, a New York Timesban le\u00edrt incidensben a Boko Haram tagjai \u00e1ll\u00edt\u00f3lag tan\u00e1csot k\u00e9rtek egy chatbott\u00f3l motorker\u00e9kp\u00e1rjaik ugrat\u00e1shoz<\/a> val\u00f3 \u00e1talak\u00edt\u00e1s\u00e1val kapcsolatban, \u00e9s ezeket a motorker\u00e9kp\u00e1rokat (\u00e9s sok gyakorl\u00e1st) arra haszn\u00e1lt\u00e1k, hogy \u2013 a Times \u00e1ll\u00edt\u00e1sa szerint \u2013 \u201eelegend\u0151 l\u00e9gi felsz\u00e1ll\u00e1st \u00e9rjenek el egy sikeres t\u00e1mad\u00e1shoz\u201d. Ha ez igaz, az nem j\u00f3 \u00e1ll\u00edt\u00e1s, de egy j\u00f3 h\u00edr\u0171 k\u00f6nyv ebben a t\u00e9m\u00e1ban val\u00f3sz\u00edn\u0171leg szint\u00e9n seg\u00edtett volna a Boko Haramnak \u2013 mesters\u00e9ges intelligenci\u00e1ra nem volt sz\u00fcks\u00e9g.<\/p>\n\n\n\n A Journal biofegyverekr\u0151l \u00e9s m\u00e9rgekr\u0151l sz\u00f3l\u00f3 jelent\u00e9se m\u00e9gis akkor jelenik meg, amikor ezek a technol\u00f3gi\u00e1k fejl\u0151dnek \u00e9s \u2013 ami m\u00e9g l\u00e9nyegesebb \u2013 diverzifik\u00e1l\u00f3dnak. Az olyan saj\u00e1t fejleszt\u00e9s\u0171, hat\u00e1rmodellek, mint a tavaly ny\u00e1ri legfejlettebb GPT-modell, v\u00e9g\u00fcl hozz\u00e1j\u00e1rulhatnak titokban desztill\u00e1lt<\/a> , nem hat\u00e1rmodellek l\u00e9trej\u00f6tt\u00e9hez, amelyeket gyakran olcs\u00f3, nyitott s\u00faly\u00fa term\u00e9kekk\u00e9nt adnak ki, \u00e9s amelyek b\u00e1rmilyen kell\u0151en nagy teljes\u00edtm\u00e9ny\u0171 g\u00e9pen futtathat\u00f3k. L\u00e9teznek olyan technik\u00e1k is, amelyekkel a modelleket \u00fagy m\u00f3dos\u00edthatj\u00e1k, hogy az elutas\u00edt\u00f3 viselked\u00e9st elt\u00e1vol\u00edts\u00e1k a modellek \u00fajonnan l\u00e9trehozott verzi\u00f3ib\u00f3l<\/a>, ami azt jelenti, hogy a modellben tal\u00e1lhat\u00f3 b\u00e1rmilyen inform\u00e1ci\u00f3 kicsalogathat\u00f3.<\/p>\n\n\n\n \u00c9sszer\u0171 agg\u00f3dni, hogy az ijeszt\u0151, hat\u00e1rvid\u00e9ki MI-modellek, amelyek 2026-ban l\u00e1ngra lobbantj\u00e1k a sz\u00f6vets\u00e9gi korm\u00e1nyzat haj\u00e1t \u2013 \u00e9s v\u00e9g\u00fcl a beh\u00f3dol\u00e1sig megb\u00e9n\u00edtj\u00e1k \u0151ket<\/a> \u2013, tal\u00e1n k\u00e9t \u00e9v m\u00falva mut\u00e1l\u00f3dnak \u00e1t egy cenz\u00far\u00e1zatlan modell\u00e9, amelyhez a rosszindulat\u00fa szerepl\u0151k megfelel\u0151 \u00e1ron hozz\u00e1f\u00e9rhetnek, ha tudj\u00e1k, hol keress\u00e9k . Ugyanakkor fejl\u0151dnek azok a technik\u00e1k is, amelyekkel vissza lehet foltozni azokat a reped\u00e9seket<\/a>, amelyek elt\u00e1vol\u00edtj\u00e1k a modell korl\u00e1tjait .<\/p>\n\n\n\n Az OpenAI azt nyilatkozta a Journalnak, hogy modelljeit \u00fagy tervezt\u00e9k, hogy elutas\u00edts\u00e1k a k\u00e1ros k\u00e9r\u00e9seket, \u00e9s hogy kiad\u00e1s el\u0151tt ellen\u0151rzik azok biztons\u00e1goss\u00e1g\u00e1t. A Journal l\u00e1tsz\u00f3lag \u00e1tfogalmazta azt, amit egy OpenAI sz\u00f3viv\u0151 mondott nekik, hogy az OpenAI \u201ek\u00e9pes azonos\u00edtani \u00e9s megzavarni azokat a k\u00eds\u00e9rleteket, amelyek modelljei felhaszn\u00e1l\u00e1s\u00e1val k\u00e1ros biol\u00f3giai inform\u00e1ci\u00f3kat szereznek\u201d.<\/p>\n\n\n\n