Egy nappal azután, hogy a Google bemutatott egy új funkciót, amely lehetővé teszi a felhasználók számára, hogy egyetlen gombnyomással AI által generált műholdképeket készítsenek a Google Earth platformján, a vállalat bejelentette, hogy eltávolítja az eszközt.
„Láttuk, hogy térinformatikai szakemberek ezt a funkciót számos hasznos célra használják” – mondta a Google az X-ről szóló nyilatkozatában . „Ugyanakkor olyan embereket is láttunk, akik olyan létrehozott képek képernyőképeit osztották meg, amelyek látszólag sértik a szabályzatainkat. Ezért visszavonjuk ezt a funkciót a Google Earth-ben, amíg erősebb korlátok bevezetésén dolgozunk.”
A cég csütörtöki, az új funkcióról szóló kezdeti bejelentésében azt állította, hogy a funkciót úgy tervezték, hogy a felhasználók képzeletére építsen: „Csak nagyítson rá egy helyre a Google Earth webes verziójában (sic), koppintson a „kép létrehozása” gombra, és írjon be bármit, amit látni szeretne” – írta Bryan Horowitz, termékmenedzser.
De a szakértők és elemzők számára, akik a Google képeire támaszkodnak a világ nehezen elérhető részein történt hírek és atrocitások ellenőrzésére, rémisztő volt, hogy egyetlen kattintással deepfake műholdképeket lehet létrehozni.
„Próbáltam menekültekkel foglalkozni a mexikói határon, egy iráni atomerőműben, egy amszterdami balesetben, egy Gázai bombakráterrel rendelkező kórházban. Semmit sem utasítottak vissza” – mondta Henk van Ess, egy nyílt forráskódú kutató, aki elsőként írt az eszköz által okozott lehetséges károkról, az NPR-nek SMS-ben.
Az NPR könnyedén tudott képeket készíteni Iránban a lángoló Kharg-szigetről és az elárasztott amerikai Capitolium komplexumáról. Mindkét esemény, amely nem történt meg, fontos hír lenne, ha valós lenne.
Az interneten újságírók és nyílt forráskódú szoftvereket kutatók találgatták a Google döntését. „Nagyon kíváncsi vagyok, hogy ezt az ötletet hogyan, vagy egyáltalán belsőleg manipulálták-e, mivel a visszaélések és a dezinformáció lehetőségei szó szerint határtalanok” – írta Evan Hill, a Washington Post vizuális forenzikus nyomozója az X-en.
Szemek az égen
Ahogy az online világ megtelik mesterséges intelligencia által generált deepfake-ekkel és hamis tartalmakkal, a műholdképek kulcsfontosságú eszközzé váltak annak megértéséhez, hogy mi a valóság és mi nem. A nyílt forráskódú kutatók műholdképeket használtak a helyszíni események ellenőrzésére, valamint referenciaként az online megosztott videók és képek megértéséhez.
A Google Earth képei nem mindig a legfrissebbek, de a bolygóról készült átfogó, nagy felbontású lefedettségük fontos referenciaképeket biztosíthat mind a földi képekhez, mind a más műholdakról származó aktuálisabb képekhez.
„A műholdfelvételek meglehetősen biztonságosnak bizonyultak egy esemény igazolásában, mivel nehéz őket hamisítani” – mondja Jake Godin, a Bellingcat online csoport vezető kutatója, amely vizuális forenzikus vizsgálatokat végez. A műholdfelvételeket általában vállalatok vagy intézmények ellenőrzik, és forrásukat, egy több száz mérfölddel a Föld felszíne felett elhelyezkedő kamerát történelmileg nehéz volt utánozni.
Hamisítványok az űrből
Godin megjegyezte, hogy néhány esetben már felbukkantak hamis műholdfelvételek. Az amerikai-izraeli háború elején például hamis képek keringtek egy megrongálódott amerikai bázisról Bahreinben. Az iráni médiában felbukkanó képek a Google Earth képeit és a Google mesterséges intelligenciáját használták fel a bázison keletkezett hamis károk ábrázolására. (A valódi műholdfelvételek később azt mutatták, hogy a bázis valóban megsérült, csak nem úgy, ahogyan a hamis képen látható.)
Godin szerint azonban az eszközök egyetlen kattintással az AI által generált műholdképek létrehozásához való összeállítása jelentősen felgyorsíthatja a AI által generált hamisítványok létrehozását. „Ez csupán egyszerűsíti a folyamatot, ami szerintem még inkább el fogja terjedni.”
Godin attól tart, hogy a hamis képek terjedése tovább fog fokozni a zavart és a félretájékoztatást. „A félretájékoztatás messzebbre és gyorsabban terjed, mint bármilyen korrekció” – mondta. Ráadásul a kormányok mostantól nagyobb valószínűséggel fogják azt állítani, hogy a műholdképek hamisak, még akkor is, ha valódiak, aláásva ezzel a közvélemény bizalmát.
A cég csütörtökön az X-en közzétett bejegyzésében azt nyilatkozta, hogy „komolyan veszi a félretájékoztatást”. A cég megjegyezte, hogy minden képet megjelöl a SynthID vízjellel, amely biztosítja, hogy más Google-eszközökben, például a Geminiben is AI által generáltként jelöljék meg azokat. „Ezenkívül megakadályozzuk a káros témájú képek létrehozását, és folyamatosan frissítjük védelmi intézkedéseinket” – közölték.
A nyílt forráskódú közösségben azonban kevesen nyugodtak meg a Google kijelentéseitől. Van Ess számára a döntés különösen fáj, mivel a Google Earth-öt régóta a közösségi médiában közzétett információk ellenőrzésének egyik legjobb eszközének tartják.
Ha a Google folytatja az AI eszközének fejlesztését, mondta, az azt jelentené, hogy „a hamisítvány abban a dologban készülne, amit az emberek a képek valódiságának ellenőrzésére használnak”.
Tovább a cikkre: npr.org
