Az Apple 19 olyan alkalmazást távolított el, amelyek szexuálisan zaklató mesterséges intelligencia általi deepfake eszközöket rejtettek a hétköznapi funkciók mögé, miután egy vizsgálat feltárt egy hálózatot, amelyet az App Store felülvizsgálatának megkerülésére terveztek .
Egy november 2-i vizsgálat több mint 400 olyan csatlakoztatott alkalmazást és webes domaint azonosított, amelyek ártalmatlan mesterséges intelligencia szolgáltatásokat kínáltak, beleértve háziállat-portrékat, nyelvleckéket és fitneszedzést. Egyesek ehelyett szexuálisan explicit képeket és videókat generáló eszközöket tudtak betölteni valódi emberek fényképeiből.
Az eredmények korábbi kutatásokon alapulnak, amelyek azt mutatták, hogy az Apple korlátozásai ellenére is eljutottak az App Store-ba olyan alkalmazások, amelyek képesek voltak beleegyezés nélküli szexuális képeket készíteni. Az újonnan felfedezett hálózat még tovább ment, távoli szerverek segítségével szabályozva, hogy mely funkciók jelenjenek meg az egyes felhasználók számára.
Hogyan rejtették el az alkalmazások valódi céljukat
A WIRED vizsgálata szerint a kutatók felfedezték, hogy a hálózaton lévő alkalmazások a telepítés után kapcsolatba léptek távoli szerverekkel. Olyan információkat továbbítottak, mint a felhasználó nyelve, a hivatkozó forrás és egy egyedi azonosító.
A szerver döntötte el, hogy megjeleníti-e az alkalmazás hirdetett funkcióit, vagy betölt egy külön weboldalt explicit deepfake generátorokkal. Az alkalmazást letöltő személy valószínűleg nem lát semmi gyanúsat, míg egy adott hirdetésen keresztül érkező személy hozzáférhet a rejtett eszközökhöz.
Az egyik nyilvánvaló kiváltó ok egy alkalmazás letöltése volt, miután rákattintott egy Facebook- vagy Instagram-hirdetésre. A kutatók több ezer, szexuálisan zaklató deepfake-eket népszerűsítő hirdetést követtek nyomon az Apple App Store-ban és a Google Playen terjesztett alkalmazásokig.
Egy példa erre a Viefur, egy mesterséges intelligenciával működő állatportré-generátor, amely úgy tűnt, hogy állatfotókat alakít át emberszerű karakterekké. E mögött az ártalmatlan felület mögött a kutatók olyan eszközökhöz fértek hozzá, amelyek képesek voltak szexuálisan explicit és erőszakos helyzetekbe sodorni az embereket.
A kutatók egy JavaScript-köteget is feltártak, amely több száz összekapcsolt alkalmazásra és domainre mutató hivatkozásokat, valamint titkosítási kulcsokat és hirdetéskövetőket tartalmazott. A megosztott infrastruktúra inkább összehangolt működésre utalt, mintsem egymással nem összefüggő fejlesztők gyűjteményére.
2026 szeptemberében a kutatók 27 kapcsolódó alkalmazást azonosítottak a Google Playen, amelyek összesen több mint 350 000 letöltést értek el. Sokat minden korosztály számára alkalmasnak minősítettek, ami azt mutatja, hogy a hálózat túlmutat az Apple ökoszisztémáján.
A nyomozók technikai kapcsolatokat is azonosítottak kínai nyelvű fejlesztőkkel és egy hongkongi bejegyzésű KeLing Technology Limited nevű vállalattal. A kapcsolatok magukban foglalták a tárhely infrastruktúráját, a kódot és az elérhetőségeket, bár a bizonyítékok nem állapítják meg meggyőzően, hogy ki irányította a teljes hálózatot.
Az Apple szerint a fejlesztők a jóváhagyás után megváltoztatták az alkalmazásokat
Az Apple 19 alkalmazást, köztük a Viefurt is eltávolított, miután az újságírók felvették a kapcsolatot a céggel, és megosztották a hálózat részleteit. Adam Dema szóvivő elmondta, hogy az alkalmazások a kezdeti felülvizsgálatok során megfeleltek az App Store szabályainak. Az Apple beszámolója szerint a fejlesztők ezt követően megváltoztatták a tartalmukat szolgáltató weboldalakat, a jóváhagyott anyagokat pornográfiával helyettesítve.
A magyarázat rávilágít az alkalmazások közzététel előtti felülvizsgálatának egy korlátjára. A fejlesztők potenciálisan módosíthatják a külső szerverekről származó tartalmakat anélkül, hogy új alkalmazásverziót küldenének be jóváhagyásra, így tiltott funkciók jelenhetnek meg az alkalmazás felülvizsgálata után.
Az Apple azt is közölte, hogy az előző évben több tízezer alkalmazást függesztett fel hasonló, átverésre épülő taktikák miatt. A felfüggesztések az azonosított hálózaton túlra is kiterjedtek.
Október 16-án az Apple frissítette irányelveit, hogy megerősítse a meglévő korlátozásokat a nem beleegyezésen alapuló intim képek és az olyan alkalmazások ellen, amelyek a felülvizsgálat során elrejtik a működésüket.
Az 1.2-es irányelv mostantól kifejezetten foglalkozik a mesterséges intelligencia által generált, beleegyezés nélküli intim képekkel, előírva a fejlesztők számára az ilyen tartalmak megakadályozását vagy eltávolítását. A 2.5.19-es irányelv tisztázza az Apple régóta fennálló tilalmát a rejtett, szunnyadó vagy nem dokumentált funkciókkal szemben, beleértve a jóváhagyás után aktivált funkciókat is.
A változtatások megerősítik az Apple meglévő szabályzatait, de nem tudják megakadályozni a fejlesztőket abban, hogy megváltoztassák a külső szervereken tárolt tartalmakat. A vállalat továbbra is szembesül a kihívással, hogy az alkalmazások jóváhagyása után észlelje ezeket a változtatásokat.
Tovább a cikkre: appleinsider.com (Andrew Orr)
