Egy ellentmondásos új párizsi megfigyelőrendszer olyan jövőt vetít előre, ahol túl sok CCTV kamera van ahhoz, hogy az emberek fizikailag nézhessék.
Az olimpia nyitóünnepségének előestéjén Párizs erősen biztonságos várossá vált. Negyvenezer akadályt helyeztek el a francia fővárost útjaira. A csinos, macskaköves utcákon szúrómellényt viselő rendőrök csapatai járőröznek. A Szajna folyón kívül esik mindenki számára, akit még nem ellenőriztek és nem adtak ki személyes QR-kódot. A 2015-ös terrortámadások óta jelenlévő khaki ruhás katonák egy csatorna melletti boulangerie közelében ácsorognak, svájcisapkát viselnek, és nagy fegyvert szorongatnak a mellkasukon.
Gérald Darmanin francia belügyminiszter az elmúlt hetet azzal töltötte, hogy éberségnek – nem túlzásnak – indokolta ezeket az intézkedéseket. Franciaország a „legnagyobb biztonsági kihívással néz szembe, amelyet egyetlen országnak valaha is meg kellett szerveznie a béke idején” – mondta kedden újságíróknak. A Le Journal du Dimanche című hetilapnak adott interjújában kifejtette, hogy „ potenciálisan veszélyes személyeket ” kaptak el, akik jelentkeztek az olimpiára, vagy önkéntesként jelentkeztek az olimpiára, köztük 257 radikális iszlamistát, 181 szélsőbaloldali képviselőt és 95 szélsőjobboldali képviselőt. Tegnap azt mondta a BFM francia híradónak, hogy letartóztattak egy orosz állampolgárt, akit azzal gyanúsítanak, hogy „nagyszabású” „destabilizációs” cselekményeket tervezett a játékok alatt.
A párizsiak továbbra is zúgolódnak az útlezárások és a kerékpárutak miatt, amelyek hirtelen, figyelmeztetés nélkül véget érnek, miközben az emberi jogi csoportok elítélik az „ alapvető jogok elfogadhatatlan kockázatait”. A résztvevő sportolók számára ez nem újdonság. A disztópikus biztonsággal kapcsolatos panaszok már-már olimpiai hagyománynak számítanak. Ezúttal a legkevésbé látható biztonsági intézkedések váltak a legellentmondásosabbak közé. A párizsi biztonsági intézkedéseket egy új típusú mesterséges intelligencia felturbózta, mivel a város lehetővé teszi a vitatott algoritmusok számára a CCTV felvételek feltérképezését a pályaudvarokról, amelyek fenyegetést keresnek. A rendszert először Párizsban tesztelték még márciusban, két Depeche Mode koncerten.
A kritikusok és a támogatók számára a CCTV felvételek algoritmikus felügyelete bepillantást enged a jövő biztonsági rendszereibe, ahol egyszerűen túl sok a megfigyelési felvétel ahhoz, hogy az emberi kezelők fizikailag megnézhessék. „A szoftver a rendőrség kiterjesztése” – mondja Noémie Levain, a La Quadrature du Net aktivista csoport tagja, amely ellenzi az AI-felügyeletet. – Megsokszorozódott a rendőrség szeme.
A Porte de Pantin metróállomás bejárata közelében térfigyelő kamerák vannak a mennyezetre csavarozva, egy könnyen észrevehető szürke fémdobozba zárva. Egy kis tábla van a szemetes felett a falra tűzve, amely arról tájékoztat mindenkit, aki hajlandó megállni és elolvasni, hogy egy „videós megfigyelőelemzési kísérlet” része. A párizsi RATP metrót üzemeltető cég „valószínűleg” „valós idejű automatizált elemzést” fog alkalmazni a CCTV-képekről, „amelyeken Ön megjelenhet” – magyarázza a tábla a figyelmen kívül hagyó utasoknak. A kísérlet 2025 márciusáig tart.
A Porte de Pantin a La Villette park szélén található, ahol a Nemzetek Olimpiai Parkjának ad otthont, ahol a rajongók étkezhetnek vagy ihatnak a 15 különböző országnak szentelt pavilonokban. A Párizsi prefektúra, a belügyminisztérium egyik egysége közleménye szerint a metrómegálló egyike annak a 46 vonat- és metróállomásnak, ahol a CCTV algoritmusokat bevetik az olimpia idején. A város képviselői nem válaszoltak a WIRED azon kérdéseire, hogy tervezik-e az AI-felügyelet alkalmazását a közlekedési hálózaton kívül. Egy 2023. márciusi törvény értelmében az algoritmusok nyolc „esemény” CCTV-felvételeit valós időben kereshetik, beleértve a tömeghullámokat, a szokatlanul nagy embercsoportokat, az elhagyott tárgyakat, fegyvereket vagy a földre zuhanó személyt.
„Amit csinálunk, az az, hogy a CCTV kamerákat hatékony megfigyelőeszközzé alakítjuk át” – mondja Matthias Houllier, a Wintics társalapítója, egyike annak a négy francia cégnek, amelyek nyertek szerződést algoritmusaik olimpián történő alkalmazására. „Több ezer kamerával lehetetlen, hogy a rendőrök [reagáljanak minden kamerára].”
A Wintics 2020-ban nyerte el első közbeszerzési szerződését Párizsban, és adatokat gyűjtött a város különböző részein közlekedő kerékpárosok számáról, hogy segítse a párizsi közlekedési tisztviselőket, amikor több kerékpárút építését tervezték. Algoritmusait 200 meglévő forgalmi kamerához kapcsolva a Wintics – amely még mindig működik – rendszere először képes azonosítani, majd megszámolni a kerékpárosokat a forgalmas utcák közepén. Amikor Franciaország bejelentette, hogy olyan cégeket keres, amelyek algoritmusokat tudnának építeni a biztonság javítására a nyári olimpián, Houllier ezt természetes evolúciónak tartotta. „A technológia ugyanaz” – mondja. „Anonim alakzatokat elemzi a nyilvános tereken.”
Az algoritmusok nyílt forráskódú és szintetikus adatokra való betanítása után a Wintics rendszereit úgy alakították át, hogy például megszámolják a tömegben lévő emberek számát vagy a padlóra zuhanók számát – figyelmeztetve a kezelőket, ha a szám túllép egy bizonyos küszöböt. .
„Ez az. Nincs automatikus döntés” – magyarázza Houllier. Csapata betanította a belügyminisztérium tisztviselőit a cég szoftverének használatára, és ők döntik el, hogyan kívánják telepíteni azt – mondja. „Az ötlet az, hogy felkeltsük a kezelő figyelmét, hogy ellenőrizzék és eldöntsék, mit kell tenniük.”
Houllier azzal érvel, hogy algoritmusai magánélet-barát alternatívát jelentenek a múltbeli globális sportesemények, például a 2022-es katari világbajnokság által használt vitatott arcfelismerő rendszerekkel szemben . „Itt próbálunk más utat találni” – mondja. Számára a CCTV felvételek feltérképezésének engedélyezése az algoritmusok számára egy módja annak, hogy az esemény biztonságos legyen a személyes szabadságok veszélyeztetése nélkül. „Nem elemezünk semmilyen személyes adatot. Csak a formákat nézzük, nincs arc, nincs rendszámfelismerés, nincs viselkedéselemzés.”
Az adatvédelmi aktivisták azonban elutasítják azt az elképzelést, hogy ez a technológia védi az emberek személyes szabadságjogait. A 20. kerületben Noémie Levain 6000 plakátot kapott, amelyeket a csoport el akar terjeszteni, és amelyek célja, hogy figyelmeztessék párizsi társait a városukat elfoglaló „algoritmikus megfigyelésről”, és felszólítsák őket, hogy tagadják meg a „nyilvános terek tekintélyes elfoglalását”. .” Elutasítja azt az elképzelést, hogy az algoritmusok nem dolgoznak fel személyes adatokat. „Ha emberekről vannak képei, elemeznie kell a képen lévő összes adatot, amelyek személyes adatok, amelyek biometrikus adatok” – mondja. „Pontosan ugyanaz a technológia, mint az arcfelismerés. Pontosan ugyanaz az elv.”
Levain aggódik, hogy a mesterséges intelligencia megfigyelőrendszerei még sokáig Franciaországban maradnak a sportolók távozása után. Számára ezek az algoritmusok lehetővé teszik a rendőrség és a biztonsági szolgálatok számára, hogy megfigyelést vezessenek be a város szélesebb részein. „Ez a technológia reprodukálja a rendőrség sztereotípiáit” – mondja. „Tudjuk, hogy diszkriminálnak. Tudjuk, hogy mindig ugyanazon a területen járnak. Mindig elmennek és ugyanazokat az embereket zaklatják. És ez a technológia, mint minden felügyeleti technológia, segíteni fogja őket ebben.”
Miközben az autósok tombolnak a belvárosban az utcákat elzáró biztonsági sorompóknál, Levain egyike annak a sok párizsinak, akik azt tervezik, hogy Dél-Franciaországba vonulnak le, amíg az olimpiai események zajlanak. Mégis aggódik a város miatt – „Az olimpia egy ürügy” – mondja. „Ők – a kormány, a cégek, a rendőrség – már azután gondolkodnak.”
