A Meta kedden bejelentette, hogy mesterséges intelligenciát fog használni fényképek és videók szkennelésére vizuális jelek után kutatva, hogy megállapítsa, egy felhasználó 13 év alatti-e, és el kell-e távolítani a Facebookról és az Instagramról. Ezek a vizuális jelek tartalmazzák a személy magasságát vagy csontszerkezetét.

„Egyértelművé szeretnénk tenni: ez nem arcfelismerés” – magyarázta a Meta a blogbejegyzésében. „A mesterséges intelligencia általános témákat és vizuális jelzéseket, például a magasságot vagy a csontszerkezetet vizsgálja, hogy megbecsülje valakinek az életkorát; nem azonosítja a képen látható konkrét személyt. Ezen vizuális információk, valamint a szövegek és interakciók elemzésének kombinálásával jelentősen növelhetjük az azonosított és eltávolított kiskorú fiókok számát.”

A vizuális elemző rendszer már működik néhány országban, de a Meta szerint szélesebb körű elterjedésen dolgoznak.

A Meta szerint ez a rendszer azon erőfeszítéseik része, hogy a 13 év alatti gyerekeket távol tartsák platformjaiktól. Ezek az erőfeszítések magukban foglalják a mesterséges intelligencia használatát teljes profilok elemzésére kontextuális utalások, például születésnapi ünneplések vagy iskolai jegyek említése után kutatva. A vállalat ezeket a jeleket különböző formátumokban, például bejegyzésekben, hozzászólásokban, életrajzokban, feliratokban és egyebekben keresi. A Meta tervei szerint a jövőben ezt a technológiát kiterjeszti alkalmazásai további részeire, beleértve az Instagram Live-ot és a Facebook-csoportokat is.

Ha a Meta úgy ítéli meg, hogy egy személy kiskorú lehet, deaktiválja a fiókját, és a felhasználónak igazolnia kell életkorát a cég életkor-ellenőrzési folyamatával, hogy megakadályozza fiókja törlését.

A bejelentés hetekkel azután érkezett, hogy egy új-mexikói esküdtszék 375 millió dolláros polgári jogi bírság megfizetésére kötelezte a Metát , amiért félrevezette a fogyasztókat platformjainak biztonságával kapcsolatban, és veszélyeztette a gyermekeket. A vállalatot arra is kötelezték, hogy alapvető változtatásokat hajtson végre platformjain. A Meta azóta azzal fenyegetőzött, hogy leállítja közösségi média szolgáltatásait az államban.

Érdemes megjegyezni, hogy ez az eset egyike azon számos pernek, amelyekkel a Meta és más Big Tech vállalatok a gyermekek biztonsága miatt szembesülnek.

Tovább a cikkre: techcrunch.com (Aisha Malik)

Egy álbajuszú gyerek becsapott egy online korhatár-ellenőrző eszközt

Annak érdekében, hogy a gyerekek ne tudják megkerülni a korhatár-ellenőrzéseket, a Meta egy mesterséges intelligencia rendszerrel korszerűsíti korhatár-ellenőrző eszközeit, amely a képeket és videókat „vizuális jelzések”, például a magasság és a csontszerkezet alapján elemzi.

A meta felpörög és egy mesterséges intelligencia alapú rendszerrel fejlesztette ki életkor-ellenőrző mechanizmusait , amely az Instagramon és a Facebookon található képeket és videókat elemzi „vizuális jelzések” – például magasság és csontszerkezet – alapján, hogy azonosítsa és törölje a 13 év alatti felhasználók fiókjait. A vállalat a lépést egy olyan esethullám közepette jelentette be, amelyben több száz gyermeknek sikerült megkerülnie a közösségi hálózati hozzáférési korlátozásokat, akár olyan egyszerű trükkökkel is, mint a bajusz rajzolása.

Az új megközelítés része annak a sorozatnak, amelyet a Meta egy mesterséges intelligencia alapú biztonsági stratégia részeként vezetett be, amelynek célja a hagyományos, nagymértékben az önbevalláson alapuló életkorra támaszkodó módszerek korlátainak korrigálása. Ezzel a változtatással a vállalat célja, hogy csökkentse a kiskorúak hozzáférésének könnyedségét azokhoz a platformokhoz, amelyek elméletileg csak rájuk vonatkoznak.

Egy sajtóközleményben a Meta elmagyarázta, hogy számos eszközt vezet be a kontextuális mutatók azonosítására, amelyek lehetővé teszik egy személy életkorának becslését. Ez a folyamat magában foglalja a bejegyzések, hozzászólások, életrajzok és leírások elemzését, különös tekintettel az iskolai évekkel vagy születésnapi ünnepségekkel kapcsolatos utalásokra – olyan elemekre, amelyek nyomokat adhatnak a fiókot kezelő személy valódi életkoráról.

Ezek az eszközök kiegészítik az automatizált elemzési technikákat, amelyek célja a Meta közösségi platformjain megosztott képeken található fizikai tulajdonságok felismerése. Ilyenek például a magasság és a csontszerkezet. A Meta kijelenti, hogy ez a rendszer nem arcfelismerő, mivel nem törekszik konkrét személyek azonosítására a képeken vagy videókon. Ehelyett a vállalat megjegyzi, hogy „ezen vizuális információk és a szövegek, valamint az interakciók elemzésének kombinálásával jelentősen növelhetjük az általunk azonosított és eltávolított kiskorú fiókok számát”.

Ha ezen elemek alapján a Meta gyanítja, hogy egy fiókot 13 év alatti gyermek kezel, akkor azt felfüggeszti. A felhasználónak a hozzáférés visszaszerzéséhez a vállalat által meghatározott eljárások szerint újra érvényesítenie kell az életkorát; ellenkező esetben a profil véglegesen törlődik.

A Meta azt is bejelentette, hogy kibővíti technológiájának hatókörét, hogy felismerje a 13 és 15 év közötti felhasználókat, és automatikusan tinédzser fiókokat rendeljen hozzájuk. Ez a profiltípus alapértelmezés szerint engedélyezve van a tartalomkorlátozás és a szülői felügyelet, azzal a céllal, hogy biztonságosabb környezetet biztosítson ennek a korosztálynak.

A Meta 2024-ben kezdte el bevezetni a korhatár-ellenőrző technológiát az Egyesült Államokbeli, ausztráliai, kanadai és az Egyesült Királyságbeli Instagram-felhasználók számára. Most a mechanizmust kiterjesztik Brazília és az Európai Unió 27 országának Instagram-fiókjaira. Ezenkívül ezeket a gyakorlatokat első alkalommal alkalmazzák majd az Egyesült Államokbeli Facebook-felhasználókra, a tervek szerint a következő hónapban az EU-ra és az Egyesült Királyságra is kiterjesztik.

Felnőttnek tűnni
Az új intézkedéseket az Európai Bizottság nemrégiben kiadott előzetes ítéletére adott válaszként értelmezték, amely arra a következtetésre jutott, hogy a Mark Zuckerberg vezette vállalat megsérti a digitális szolgáltatásokról szóló törvényt, mivel állítólag nem akadályozta meg hatékonyan a 13 év alatti gyermekek platformjainak használatát. Az uniós szerv megállapította, hogy a vállalatnak nincsenek kellően hatékony mechanizmusai az ilyen hozzáférés blokkolására, és hogy a korhatár alatti fiókok azonosítására és felfüggesztésére szolgáló jelenlegi rendszerei nem elegendőek.

Ezeket a kritikákat alátámasztják az Internet Matters nonprofit szervezet által végzett felmérés eredményei. Miután közel 1300 gyermek és szüleik körében végeztek felmérést az Egyesült Királyságban, a tanulmány kimutatta, hogy a gyermekek körülbelül egyharmada sikeresen megkerülte a közösségi oldalakhoz való hozzáférésre vonatkozó kormány által elrendelt korlátozásokat. Egyes esetekben az alkalmazott módszerek különösen szembetűnőek.

Az „ Online biztonsági törvény: Biztonságban vannak-e a gyerekek online? ” című jelentés szerint a 9 és 16 év közöttiek 46 százaléka véli úgy, hogy a korhatár-szabályozás megkerülése nagyon könnyű. Összesen azonban csak 32 százalékuk ismerte el, hogy megszegte a szabályokat.

A leggyakoribb technikák közé tartozik a hamis születési dátummal történő regisztráció, ami egy széles körben elterjedt gyakorlat. További módszerek közé tartozik az idősek hivatalos igazolványainak használata, felnőtt arcú ellenőrző videók beküldése, videojáték-karakterek használata valódi arcok helyett, valamint bajusz rajzolása az automatizált rendszerek megtévesztésére.

Egy 12 éves fiú édesanyja azt nyilatkozta a kutatóknak, hogy rajtakapta fiát, amint szemöldökceruzával rajzolt bajuszt, hogy idősebbnek tűnjön az ellenőrző rendszer előtt. Az eredmény, finoman szólva is, szokatlan volt: a rendszer 15 évesként osztályozta a gyermeket.

Hivatalos blogbejegyzésében a Meta azt állítja, hogy egyetlen vállalat sem lesz képes megoldani a hatékony és időben történő életkor-ellenőrzés kihívását a digitális környezetekben. Ehelyett olyan jogszabályt javasol, amely kötelezi az alkalmazásboltokat a felhasználók életkorának ellenőrzésére, valamint szülői jóváhagyási rendszerek létrehozására. A cél az, hogy ezeket az információkat meg lehessen osztani az alkalmazásokkal és azok fejlesztőivel, így biztosítva a „központosított, következetes és az adatvédelmet megőrző életkor-ellenőrzési pontot”.

Tovább a cikkre: wired.com (Fernanda González)