A f\u0151 probl\u00e9mak\u00e9nt eml\u00edtett faji elfogults\u00e1g \u00e9s az elsz\u00e1moltathat\u00f3s\u00e1g hi\u00e1nya.<\/p>\n\n\n\n
Van egy kicsi, de egyre n\u00f6vekv\u0151 lobbi olyan emberekb\u0151l, akiket t\u00e9vesen tart\u00f3ztattak le az arcfelismer\u0151 technol\u00f3gia k\u00f6vetkezt\u00e9ben. K\u00f6zt\u00fck van Robert Williams amerikai is, akit 2020-ban bilincseltek meg csal\u00e1dja el\u0151tt, miut\u00e1n a rend\u0151rs\u00e9g arcfelismer\u00e9se t\u00e9vesen gyan\u00fas\u00edtottk\u00e9nt azonos\u00edtotta egy sz\u00f6vets\u00e9gi lop\u00e1si \u00fcgyben.<\/p>\n\n\n\n
A Williams most arra k\u00e9ri az \u00edrorsz\u00e1gi rend\u0151rs\u00e9get, hogy vess\u00e9k el a biometrikus technol\u00f3gia bevet\u00e9s\u00e9re vonatkoz\u00f3 terveit. Az \u00cdr \u00c1llampolg\u00e1ri Jogok Tan\u00e1csa (ICCL) \u00e1ltal szervezett dublini esem\u00e9nyen tett megjegyz\u00e9sekben, amelyeket k\u00f6zlem\u00e9nyben adtak ki, Williams r\u00e1mutat arra a kock\u00e1zatra, amely a sz\u00ednes b\u0151r\u0171ek t\u00e9ves azonos\u00edt\u00e1s\u00e1ra hajlamos eszk\u00f6z\u00f6k haszn\u00e1lat\u00e1val j\u00e1r.<\/p>\n\n\n\n
„Sz\u00f6vets\u00e9gi tanulm\u00e1nyok kimutatt\u00e1k, hogy az arcfelismer\u0151 rendszerek ak\u00e1r 100-szor gyakrabban azonos\u00edtj\u00e1k f\u00e9lre az \u00e1zsiai \u00e9s fekete embereket, mint a feh\u00e9reket” – mondja Williams. \u201eAmerik\u00e1ban megpr\u00f3b\u00e1ljuk helyrehozni azokat a k\u00e1rokat, amelyeket az FRT m\u00e1r okozott. Itt, \u00cdrorsz\u00e1gban, lehet\u0151s\u00e9ge van arra, hogy ne vezesse be el\u0151sz\u00f6r. Rem\u00e9lem, hogy az \u00f6n korm\u00e1nya meghallgatja az eny\u00e9mhez hasonl\u00f3 tapasztalatokat, \u00e9s k\u00e9tszer is meggondolja, miel\u0151tt bevonja az FRT-t a rend\u0151rs\u00e9gbe.\u201d<\/p>\n\n\n\n
Williams hivatkozik a NIST 2019-es jelent\u00e9s\u00e9re , amelyet az\u00f3ta friss\u00edtettek , \u00e9s azt mutatj\u00e1k, hogy egyes algoritmusok 10-100-szor nagyobb val\u00f3sz\u00edn\u0171s\u00e9ggel azonos\u00edtottak f\u00e9lre egy fekete vagy kelet-\u00e1zsiait, mint egy feh\u00e9r arcot. A ki\u00e9rt\u00e9kelt algoritmusok k\u00f6z\u00fcl azonban nem mindegyiket haszn\u00e1lj\u00e1k kereskedelmi forgalomba, m\u00e1sokn\u00e1l pedig \u00e9szrevehetetlen k\u00fcl\u00f6nbs\u00e9gek mutatkoznak a demogr\u00e1fiai jellemz\u0151k teljes\u00edtm\u00e9ny\u00e9ben, ez\u00e9rt a NIST biometrikus szabv\u00e1nyok \u00e9s a tesztel\u00e9s vezet\u0151je, Patrick Grother arra \u00f6szt\u00f6n\u00f6zte az arcfelismer\u00e9st alkalmaz\u00f3kat, hogy legyenek specifikusak az elfogults\u00e1g \u00e9rt\u00e9kel\u00e9se sor\u00e1n.<\/p>\n\n\n\n
Williams amerikai kijelent\u00e9se is vita t\u00e1rgy\u00e1t k\u00e9pezheti, tekintettel arra, hogy az arcfelismer\u0151 technol\u00f3gi\u00e1t a b\u0171n\u00fcld\u00f6z\u0151 szervek orsz\u00e1gszerte elterjessz\u00e9k. \u00c9s b\u00e1r igaz, hogy az \u00edr rend\u0151rs\u00e9g tov\u00e1bbra is d\u00f6nthet az arcfelismer\u00e9s tov\u00e1bbad\u00e1sa mellett, ez nem val\u00f3sz\u00edn\u0171. A korm\u00e1ny folyamatban van olyan jogszab\u00e1ly kidolgoz\u00e1s\u00e1n, amely Garda\u00ednak hozz\u00e1f\u00e9r\u00e9st biztos\u00edtana az FRT-hez. A szomsz\u00e9dos Egyes\u00fclt Kir\u00e1lys\u00e1gban pedig a rend\u0151rs\u00e9g abszolv\u00e1lva alkalmazta az arcfelismer\u00e9st .<\/p>\n\n\n\n
Nem is csak szigetr\u0151l van sz\u00f3. A sv\u00e9d rend\u0151rs\u00e9g jelenleg a m\u00e9g mindig friss mesters\u00e9gesintelligencia-t\u00f6rv\u00e9ny korl\u00e1tai ellen t\u00f6rekszik, \u00e9s azt tervezi, hogy 1:N arcfelismer\u00e9st telep\u00edt a k\u00f6zter\u00fcletekre. A kanadai rend\u0151rs\u00e9g pedig nemr\u00e9g szerz\u0151dtette az Idemi\u00e1t az arcfelismer\u0151 szolg\u00e1ltat\u00e1sok ny\u00fajt\u00e1s\u00e1ra .<\/p>\n\n\n\n
Az Egyes\u00fclt \u00c1llamokban mindenki fekete sz\u00edn\u0171, akit t\u00e9vesen azonos\u00edtott az arcfelismer\u00e9s
A visszaszor\u00edt\u00e1s azonban az Atlanti-\u00f3ce\u00e1n mindk\u00e9t oldal\u00e1n folytat\u00f3dik. Egy k\u00f6zlem\u00e9ny szerint a Center for American Progress (CAP), a Lawyers’ Committee for Civil Rights Under Law \u00e9s 14 m\u00e1sik polg\u00e1ri jogi \u00e9s \u00e9rdekk\u00e9pviseleti csoport levelet k\u00fcld\u00f6tt a National Institute for Justice (NIJ) sz\u00e1m\u00e1ra a mesters\u00e9ges intelligencia b\u0171n\u00f6z\u00e9sben val\u00f3 felhaszn\u00e1l\u00e1s\u00e1val kapcsolatban. igazs\u00e1gszolg\u00e1ltat\u00e1si rendszer, v\u00e1laszul az NIJ inform\u00e1ci\u00f3k\u00e9r\u00e9s\u00e9re az \u00fcggyel kapcsolatos k\u00f6zelg\u0151 jelent\u00e9s el\u0151tt.<\/p>\n\n\n\n
\u201eA feket\u00e9k \u00e9s m\u00e1s sz\u00ednes b\u0151r\u0171ek jelent\u0151s polg\u00e1rjogi s\u00e9relmekkel szembes\u00fclnek a mesters\u00e9ges intelligencia b\u0171n\u00fcld\u00f6z\u0151 \u00e1ltali haszn\u00e1lat\u00e1b\u00f3l ered\u0151en\u201d \u2013 \u00e1ll a k\u00f6zlem\u00e9nyben. \u201eA b\u0171n\u00fcld\u00f6z\u0151 szervek \u00e1ltal haszn\u00e1lt algoritmikus technol\u00f3gi\u00e1k megism\u00e9tlik \u00e9s meger\u0151s\u00edtik a megl\u00e9v\u0151 faji elfogults\u00e1got \u00e9s diszkrimin\u00e1ci\u00f3t; az olyan rend\u00e9szeti technol\u00f3gi\u00e1k, mint az arcfelismer\u00e9s, a kock\u00e1zat\u00e9rt\u00e9kel\u00e9s \u00e9s a predikt\u00edv rend\u00e9szeti eszk\u00f6z\u00f6k gyakran lehet\u0151v\u00e9 teszik \u00e9s felgyors\u00edtj\u00e1k ezt a tendenci\u00e1t.\u201d<\/p>\n\n\n\n
A koal\u00edci\u00f3 szerint a mesters\u00e9ges intelligencia \u00e1ltal vez\u00e9relt biometrikus eszk\u00f6z\u00f6k kifejleszt\u00e9s\u00e9ben \u00e9s bevezet\u00e9s\u00e9ben elfogults\u00e1g van . V\u00e1dl\u00f3 ujjal a mesters\u00e9ges intelligencia-motorok k\u00e9pz\u00e9s\u00e9re haszn\u00e1lt adatb\u00e1zisokra mutat \u2013 \u201enagy adathalmazok, amelyek hemzsegnek a pontatlans\u00e1gokt\u00f3l, \u00e9s t\u00fckr\u00f6zik a megl\u00e9v\u0151 t\u00e1rsadalmi elfogults\u00e1gokat \u00e9s egyenl\u0151tlens\u00e9geket\u201d. Ezenk\u00edv\u00fcl a statisztik\u00e1k azt mutatj\u00e1k, hogy az arcfelismer\u00e9st haszn\u00e1l\u00f3 emberi rend\u0151r\u00f6k is hajlamosak az elfogults\u00e1gra.<\/p>\n\n\n\n
\u201eP\u00e9ld\u00e1ul \u2013 \u00e1ll a lev\u00e9lben \u2013 egy k\u00f6zelm\u00faltbeli jelent\u00e9s meg\u00e1llap\u00edtotta, hogy a New Orleans-i rend\u0151rs\u00e9g ar\u00e1nytalanul haszn\u00e1lt arcfelismer\u0151 technol\u00f3gi\u00e1t (\u201eFRT\u201d) fekete egy\u00e9nek azonos\u00edt\u00e1s\u00e1ra; az esetek t\u00f6bb mint 90 sz\u00e1zal\u00e9k\u00e1ban a feket\u00e9ken alkalmazt\u00e1k a technol\u00f3gi\u00e1t.\u201d<\/p>\n\n\n\n
Az Egyes\u00fclt \u00c1llamokban az arcfelismer\u00e9ssel t\u00e9vesen azonos\u00edtott \u00e9s jogtalanul letart\u00f3ztatott h\u00e9t ember fekete sz\u00edn\u0171.<\/p>\n\n\n\n
Nem a faji elfogults\u00e1g az egyetlen probl\u00e9ma. A koal\u00edci\u00f3 szerint az \u00e1tl\u00e1that\u00f3s\u00e1g is hi\u00e1nyzik. \u201eA titokba burkolt b\u0171n\u00fcld\u00f6z\u0151 szervek mesters\u00e9ges intelligencia-technol\u00f3gi\u00e1kat haszn\u00e1lnak \u2013 a rend\u0151rs\u00e9gi megfigyel\u00e9st\u0151l a gyan\u00fas\u00edtottak azonos\u00edt\u00e1s\u00e1ig \u00e9s a b\u00f6rt\u00f6nkezel\u00e9si eszk\u00f6z\u00f6kig \u2013 \u00e9rdemi nyilv\u00e1nos hozz\u00e1j\u00e1rul\u00e1s vagy fel\u00fcgyelet n\u00e9lk\u00fcl.\u201d \u00c1tl\u00e1that\u00f3s\u00e1g n\u00e9lk\u00fcl nincs elsz\u00e1moltathat\u00f3s\u00e1g.<\/p>\n\n\n\n
A lev\u00e9l n\u00e9gy aj\u00e1nl\u00e1ssal z\u00e1rul arra vonatkoz\u00f3an, hogy az NIJ-nek mire kell kit\u00e9rnie a k\u00f6vetkez\u0151 jelent\u00e9s\u00e9ben. Ink\u00e1bb k\u00f6vetel\u00e9seket olvasnak.<\/p>\n\n\n\n
El\u0151sz\u00f6r is, \u201ebe kell tiltani, hogy a b\u0171n\u00fcld\u00f6z\u00e9s fajilag megk\u00fcl\u00f6nb\u00f6ztet\u0151 technol\u00f3gi\u00e1kat haszn\u00e1ljanak, bele\u00e9rtve az FRT-t \u00e9s a predikt\u00edv rend\u00e9szeti eszk\u00f6z\u00f6ket\u201d.<\/p>\n\n\n\n
M\u00e1sodszor, \u201eaz algoritmikus fel\u00fcgyeleti eszk\u00f6z\u00f6k haszn\u00e1lat\u00e1t meg kell tiltani nyilv\u00e1nos helyeken \u00e9s minden olyan k\u00f6rnyezetben, amely meghi\u00fas\u00edthatja az els\u0151 kieg\u00e9sz\u00edt\u00e9ssel kapcsolatos jogok gyakorl\u00e1s\u00e1t\u201d.<\/p>\n\n\n\n
Harmadszor: \u201eA b\u0171n\u00fcld\u00f6z\u00e9si c\u00e9lokra haszn\u00e1lt mesters\u00e9ges intelligencia-technol\u00f3gi\u00e1k bevezet\u00e9se el\u0151tti \u00e9s ut\u00e1ni f\u00fcggetlen audit\u00e1l\u00e1s\u00e1t kell el\u0151\u00edrni.\u201d<\/p>\n\n\n\n
V\u00e9gezet\u00fcl \u201eaz AI-technol\u00f3gi\u00e1k b\u0171n\u00fcld\u00f6z\u00e9si haszn\u00e1lat\u00e1t fel kell t\u00e1rni a b\u00fcntet\u0151\u00fcgyek v\u00e1dlottain\u00e1l\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
A f\u0151 probl\u00e9mak\u00e9nt eml\u00edtett faji elfogults\u00e1g \u00e9s az elsz\u00e1moltathat\u00f3s\u00e1g hi\u00e1nya. Van egy kicsi, de egyre n\u00f6vekv\u0151 lobbi olyan emberekb\u0151l, akiket…<\/p>\n","protected":false},"author":1,"featured_media":579,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[17],"tags":[],"class_list":["post-578","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-biometrikus-azonositok"],"_links":{"self":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/578","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=578"}],"version-history":[{"count":1,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/578\/revisions"}],"predecessor-version":[{"id":580,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/posts\/578\/revisions\/580"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=\/wp\/v2\/media\/579"}],"wp:attachment":[{"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=578"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=578"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/digitalnews.hu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=578"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}