A mesterséges intelligencia itt van, hogy segítsen, akár egy e-mailt ír, akár ötleteket készít, akár átverést hajt végre a sebezhető embereken azáltal, hogy azt gondolja, hogy bajba jutott barát vagy rokon. Az AI nagyon sokoldalú ! De mivel egyesek nem szeretnének átverni, beszéljünk egy kicsit arról, mire kell figyelni.
Az elmúlt néhány évben nem csak a generált média minősége, a szövegtől a hangon át a képekig és videókig hatalmas fejődésen mentek keresztül, hanem abban is, hogy milyen olcsón és egyszerűen lehet létrehozni ezt a médiát. Ugyanaz az eszköz, amely segít a koncepcióművésznek fantáziaszörnyeket vagy űrhajókat alkotni, vagy egy nem anyanyelvi beszélőt javítani üzleti angol nyelre, rosszindulatú célokra is felhasználható.
Ne várja el, hogy a Terminátor bekopogjon az ajtón, és eladjon egy Ponzi-sémát – ezek ugyanazok a régi csalások, amelyekkel évek óta szembesülünk, de egy generatív mesterséges intelligencia-csavarral, amely egyszerűbbé, olcsóbbá vagy meggyőzőbbé teszi őket.
Ez egyáltalán nem egy teljes lista, csak néhány a legnyilvánvalóbb trükkök közül, amelyeket az AI képes létrehozni.
A család és a barátok hangklónozása
A szintetikus hangok évtizedek óta léteznek, de a technológia fejlődése csak az elmúlt egy-két évben tette lehetővé, hogy néhány másodpercnyi hangból új hangot generáljunk. Ez azt jelenti, hogy bárki, akinek a hangját valaha nyilvánosan sugározták – például hírriportban, YouTube-videóban vagy közösségi médiában –, ki van téve a hangjának klónozásának.
A csalók használhatják és használták is ezt a technológiát szeretteik vagy barátaik meggyőző hamis verzióinak előállítására. Ezekről persze bármit lehet mondani, de egy átverés szolgálatában nagy valószínűséggel hangfelvételt készítenek, amelyben segítséget kérnek.
Például előfordulhat, hogy egy szülő hangpostaüzenetet kap egy ismeretlen számról, amely úgy hangzik, mint a fia beszélne, és arról szól, hogyan lopták el a holmiját utazás közben, egy személy megengedi, hogy használja a telefonját, és anya vagy apa küldhet-e pénzt erre a címre, Venmo címzett , üzlet, stb. Könnyen elképzelhetőek olyan változatok, amelyek autóhibákkal járnak („nem adják ki az autómat, amíg valaki ki nem fizeti”), egészségügyi problémákkal („ezt a kezelést nem fedezi a biztosítás”) stb.
Hogyan védekezhetsz a hangklónozás ellen?
Először is ne fáradjon azzal, hogy hamis hangot észreveszi. Napról napra javulnak, és számos módszer létezik a minőségi problémák álcázására. Még a szakértőket is becsapják.
Mindent, ami ismeretlen számról, e-mail címről vagy fiókról érkezik, automatikusan gyanúsnak kell tekinteni. Ha valaki azt mondja, hogy a barátod vagy a szeretett személyed, lépjen kapcsolatba vele a szokásos módon. Valószínűleg azt fogják mondani, hogy jól vannak, és hogy ez (ahogyan sejtette) átverés.
A csalók hajlamosak abbahagyni a próbálkozást, ha figyelmen kívül hagyják őket – míg egy családtag valószínűleg segít. Rendben van, ha egy gyanús üzenetet elolvasva hagy, miközben gondolkodik.
Személyre szabott adathalászat és spam e-mailben és üzenetküldésben
Időnként mindannyian kapunk kéretlen leveleket, de a szöveggeneráló mesterséges intelligencia lehetővé teszi az egyénre szabott tömeges e-mailek küldését. A rendszeres adatvédelmi incidensek miatt sok személyes adata bárki számára elérhető már.
Az egy dolog, ha beszerez egyet a „Számla megtekintéséhez kattintson ide!” átverő e-mailek nyilvánvalóan hitelesnek tűnő mellékletekkel, amelyek olyan kevés erőfeszítést igényelnek. De még egy kis kontextussal is hirtelen egészen hihetővé válnak , és a közelmúltbeli helyszíneket, vásárlásokat és szokásokat használják fel, hogy valós személynek vagy valós problémának tűnjenek. Néhány személyes ténnyel felvértezve egy nyelvi modell pillanatok alatt testreszabhatja ezeknek az e-maileknek az általános változatát több ezer címzett számára.
Tehát ami egykor a „Kedves Ügyfelünk, a számlát csatolva küldjük” volt, az olyasmi lesz, mint a „Szia Doris! Az Etsy promóciós csapatának tagja vagyok. Mostantól 50% kedvezménnyel vásárolható meg egy termék, amelyet nemrég néztél meg! A budapesti címére történő szállítás pedig ingyenes, ha ezt a linket használja a kedvezmény igényléséhez.” Egyszerű példa, de mégis működik. Valódi névvel, vásárlási szokással (könnyű kideríteni), általános cím adatokkal és így tovább, az üzenetek hirtelen sokkal kevésbé nyilvánvalóak.
Végül ezek még mindig csak spamek. De ezt a fajta személyre szabott kéretlen levelet régebben rosszul fizetett marketing munkatársaknak kellett küldeniük külföldi adatfarmokon. Most ezt nagyarányúan meg tudja csinálni egy LLM, aki jobb prózai készségekkel rendelkezik, mint sok hivatásos író.
Hogyan védekezhetsz az e-mail spam ellen?
A hagyományos spamekhez hasonlóan az éberség a legjobb fegyver. De ne számítson arra, hogy az ember által írt szövegből generált szöveget felismeri. Kevesen vannak, akik megtehetik, és természetesen nem egy másik AI-modell.
Bármennyire is tökéletesebb a szöveg, az ilyen típusú átverésnek továbbra is az az alapvető kihívása, hogy rávegye Önt a csatolt mellékletek vagy hivatkozások megnyitására. Amíg nem biztos 100%-ig a feladó hitelességében és kilétében, ne kattintson és ne nyisson meg semmit. Ha egy kicsit is bizonytalan vagy – és ezt jó érzés művelni –, ne kattints, és ha van valaki, aki hozzáértő, hogy továbbítsa egy informatikai hozzáértőnek, tegye meg.
„Bizos ön az?” azonosítási és ellenőrzési csalás
Az elmúlt néhány évben bekövetkezett adatszivárgások száma miatt ( köszönjük, Equifax ) nyugodtan kijelenthetjük, hogy szinte mindannyiunk személyes adatai ott lebegnek a sötét weben. Ha követi a helyes online biztonsági gyakorlatokat , a veszélyek nagy része csökken, mert megváltoztatta jelszavait, engedélyezte a többlépcsős hitelesítést és így tovább. A generatív mesterséges intelligencia azonban új és komoly fenyegetést jelenthet ezen a területen.
Mivel rengeteg adat áll rendelkezésre valakiről az interneten, és sokak számára akár egy-két klip is a hangjából, egyre könnyebb olyan mesterséges intelligencia személyt létrehozni, aki úgy hangzik, mint egy célszemély, és hozzáfér a személyazonosság igazolására használt tények nagy részéhez.
Gondolj erre így. Mit tenne, ha problémái adódnának a bejelentkezéssel, nem tudná megfelelően konfigurálni a hitelesítő alkalmazást, vagy elvesztette volna telefonját? Valószínűleg hívja fel az ügyfélszolgálatot – és ők „igazolják” az Ön személyazonosságát néhány triviális tény alapján, mint például a születési dátuma, telefonszáma vagy társadalombiztosítási száma. Az olyan fejlettebb módszerek, mint a „szelfi készítése”, egyre könnyebben működnek.
Az ügyfélszolgálati ügynök – mint tudjuk, egy mesterséges intelligencia is – nagyon könnyen kötelezheti ezt a hamisítványt, és megadhatja neki mindazokat a kiváltságokat, amelyek akkor lennének, ha valóban telefonálna. Az, hogy ebből a pozícióból mit tehetnek, nagyon változó, de egyik sem jó.
A listán szereplő többihez hasonlóan a veszély nem annyira az, hogy mennyire reális ez a hamisítvány, hanem az, hogy a csalók könnyen hajthatnak végre ilyen jellegű támadásokat széles körben és ismétlődően. Nemrég ez a fajta megszemélyesítési támadás drága és időigényes volt, és ennek következtében csak olyan nagy értékű célpontokra korlátozódtak, mint a gazdag emberek és a vezérigazgatók. Manapság fel lehet építeni egy munkafolyamatot, amely több ezer megszemélyesítő ügynököt hoz létre minimális felügyelet mellett, és ezek az ügynökök önállóan felhívhatják az ügyfél összes ismert fiókjának ügyfélszolgálati számát – vagy akár újakat is létrehozhatnak. Csak néhány embernek kell sikeresnek lennie ahhoz, hogy megtérüljenek a támadás költségei.
Hogyan védekezhet a személyazonosság-csalás ellen?
Csakúgy, mint azelőtt, hogy az AI-k a csalók erőfeszítéseit támogatták, a „Cybersecurity 101” a legjobb választás. Az Ön adatai már kint vannak; a fogkrémet nem lehet visszatenni a tubusba. De biztos lehet benne, hogy fiókjai megfelelően védettek a legnyilvánvalóbb támadásokkal szemben.
A többlépcsős hitelesítés egyszerűen a legfontosabb lépés, amelyet itt bárki megtehet. Bármilyen komoly fióktevékenység közvetlenül az Ön telefonjára érkezik, és a gyanús bejelentkezések vagy jelszavak megváltoztatására tett kísérletek e-mailben jelennek meg. Ne hanyagolja el ezeket a figyelmeztetéseket, és ne jelölje meg spamként, még akkor sem (főleg), ha sokat kap.
AI által generált mélyhamisítások és zsarolás
A születőben lévő mesterséges intelligencia-átverés talán legfélelmetesebb formája a zsarolás lehetősége az Ön vagy egy szeretett személy hamisított képeivel . Ezt a futurisztikus és félelmetes kilátást a nyitott képmodellek rohamosan mozgó világának köszönheti. Az élvonalbeli képgenerálás bizonyos aspektusai iránt érdeklődő emberek munkafolyamatokat hoztak létre, amelyek nemcsak meztelen testek renderelésére szolgálnak, hanem bármilyen archoz rögzítik őket, amelyről képet kaphatnak. Nem kell részleteznem, hogyan használják már.
De az egyik nem szándékos következmény a „bosszúpornónak” nevezett átverés kiterjesztése, pontosabban az intim képek nem konszenzusos terjesztéseként (bár mint a „deepfake”, nehéz lehet helyettesíteni az eredeti kifejezést). Ha valakinek a privát képeit hackelés vagy egy bosszúálló ex révén nyilvánosságra hozzák, azokat egy harmadik fél zsarolásként használhatja fel, és azzal fenyeget, hogy széles körben közzéteszi őket, hacsak nem fizetnek összeget.
A mesterséges intelligencia fokozza ezt az átverést azáltal, hogy eleve nincs szükség tényleges intim képekre. Bárki arcát hozzá lehet adni egy mesterséges intelligencia által generált testhez, és bár az eredmények nem mindig meggyőzőek, valószínűleg elég ahhoz, hogy megtévessze Önt vagy másokat, ha pixeles, alacsony felbontású vagy más módon részben homályos. És ez minden, ami kell ahhoz, hogy valakit fizetésre kényszerítsen, hogy titokban tartsa – bár, mint a legtöbb zsarolási csalásnál, az első fizetés valószínűleg nem lesz az utolsó.
Hogyan küzdhetsz az AI által generált mélyhamisítások ellen?
Sajnos az a világ, amely felé haladunk, olyan, ahol szinte bárki hamis meztelen képei igény szerint elérhetők lesznek. Ijesztő, furcsa és durva, de sajnos a macska kiugrott már a zsákból.
Senki sem örül ennek a helyzetnek, kivéve a rosszfiúkat. De van néhány dolog a potenciális áldozatokkal kapcsolatban. Ezek a képmodellek bizonyos szempontból valósághű testeket hozhatnak létre, de a többi generatív AI-hoz hasonlóan csak azt tudják, mire képezték ki őket. Így például a hamis képeken hiányozni fognak a megkülönböztető jelek, és valószínűleg más szempontból nyilvánvalóan hibásak.
És bár a fenyegetés valószínűleg soha nem fog teljesen csökkenni, egyre gyakrabban fordulnak az áldozatok feljelentése , akik törvényesen kényszeríthetik a képtárakat, hogy távolítsák el a képeket, vagy kitilthatják a csalókat azokról a webhelyekről, ahol azokat közzéteszik. A probléma növekedésével a védekezés jogi és magáneszközei is növekedni fognak.
Bár nem vagyunk jogászok. De ha a leírtaknak áldozata vagy, szólj a rendőrségnek. Nem csak átverésről van szó, hanem zaklatásról is, és bár nem várható el, hogy a zsaruk olyan mély internetes nyomozói munkát végezzenek, amely szükséges ahhoz, hogy valakit valaki felkutasson, ezek az esetek néha megoldást találnak, vagy a csalókat megijesztik az internetszolgáltatójuknak küldött adat kikérések.
Segítségül fordulhatsz a Nemzeti Kibervédelmi Intézethez is.
Incidens bejelentés: https://nki.gov.hu/intezet/tartalom/incidens-bejelentes/
