Michal Kosinski feszegeti a mesters\u00e9ges intelligencia k\u00e9pess\u00e9geinek hat\u00e1rait \u2013 \u00e9s ez megr\u00e9m\u00edti \u0151t<\/p>\n\n\n\n
Michal Kosinski pontosan tudja, hogyan hangzik, amikor kutat\u00e1sair\u00f3l besz\u00e9l. \u00c9s hogy hogyan hangzik, az nem nagyszer\u0171.<\/p>\n\n\n\n
A Stanford Egyetem pszichol\u00f3gusa, Kosinski a pszichometria specialist\u00e1ja \u2013 egy olyan ter\u00fclet, amely az emberi elme aspektusait pr\u00f3b\u00e1lja m\u00e9rni. T\u00f6bb mint egy \u00e9vtizede a munk\u00e1ja teljesen megr\u00e9m\u00edtette az embereket. Tanulm\u00e1nyoz\u00e1sr\u00f3l tanulm\u00e1nyra Kosinski f\u00e9lelmetesen hihet\u0151 \u00e1ll\u00edt\u00e1sokat tett arra vonatkoz\u00f3an, hogy a mesters\u00e9ges intelligencia g\u00e9pi tanul\u00e1si algoritmusai m\u00e9lyen mag\u00e1njelleg\u0171 dolgokat k\u00e9pesek felismerni r\u00f3lunk \u2013 intelligenci\u00e1nkat, szexu\u00e1lis preferenci\u00e1inkat, politikai meggy\u0151z\u0151d\u00e9s\u00fcnket \u2013 a Facebook-l\u00e1jkjaink \u00e9s az arcunkr\u00f3l k\u00e9sz\u00fclt f\u00e9nyk\u00e9peink felhaszn\u00e1l\u00e1s\u00e1val. .<\/p>\n\n\n\n
„Nem is \u00e9rdekelnek az arcok” – er\u0151s\u00edti Kosinski. „Semmi sem utalt a karrierem sor\u00e1n arra, hogy n\u00e9h\u00e1ny \u00e9vet az emberek megjelen\u00e9s\u00e9nek n\u00e9zeget\u00e9s\u00e9vel t\u00f6lten\u00e9k.”<\/p>\n\n\n\n
Kosinskit az adatok \u00e9s a pszichol\u00f3gia \u00e9rdekli. \u00c9s mik a f\u00e9nyk\u00e9pek, ha nem pixeles adatok? „A pszichol\u00f3giai elm\u00e9let azt kiab\u00e1lja az arcodba, hogy kapcsolatnak kell lennie az arc megjelen\u00e9se \u00e9s az intim von\u00e1sok k\u00f6z\u00f6tt” – mondja. Ez\u00e9rt hiszi, hogy bels\u0151 \u00e9let\u00fcnket k\u00fcls\u0151 tulajdons\u00e1gaink alapj\u00e1n is meg lehet \u00edt\u00e9lni.<\/p>\n\n\n\n
Ez egy nyugtalan\u00edt\u00f3 hat\u00e1s\u00fa hiedelem. A tudom\u00e1ny \u00e9vsz\u00e1zadok \u00f3ta pr\u00f3b\u00e1l isteni igazs\u00e1gokat kider\u00edteni a szem\u00e9lyis\u00e9gr\u0151l \u00e9s a viselked\u00e9sr\u0151l k\u00fcl\u00f6nb\u00f6z\u0151 tesztek \u00e9s k\u00e9pek alapj\u00e1n. M\u00e1r az 1700-as \u00e9vekben a fiziogn\u00f3mikusok arcvon\u00e1sokat m\u00e9rtek, \u00e9s olyan kimondhatatlan tulajdons\u00e1gokat kerestek, mint a nemess\u00e9g \u00e9s az erk\u00f6lcstelens\u00e9g. A frenol\u00f3gusok tol\u00f3m\u00e9r\u0151vel m\u00e9rt\u00e9k meg az emberek fej\u00e9n l\u00e9v\u0151 dudorokat, rem\u00e9lve, hogy diagnosztiz\u00e1lj\u00e1k a ment\u00e1lis fogyat\u00e9koss\u00e1gokat vagy erk\u00f6lcsi hi\u00e1nyoss\u00e1gokat. Az eugenikusok f\u00e9nyk\u00e9peket \u00e9s IQ-teszteket haszn\u00e1ltak annak meg\u00e1llap\u00edt\u00e1s\u00e1ra, hogy mely emberek \u201eals\u00f3bbrend\u0171ek\u201d, \u00e9s steriliz\u00e1lt\u00e1k azokat, akik nem voltak megfelel\u0151ek \u2013 \u00e1ltal\u00e1ban mindenkir\u0151l der\u00fclt ki, aki nem feh\u00e9r \u00e9s gazdag. A m\u00f3dszerek k\u00fcl\u00f6nb\u00f6ztek, de a m\u00f6g\u00f6ttes elm\u00e9let ugyanaz maradt: a m\u00e9r\u00e9sek valamilyen m\u00f3don felm\u00e9rhetik az elm\u00e9t \u00e9s az ember \u00e9rt\u00e9k\u00e9t a t\u00e1rsadalom sz\u00e1m\u00e1ra.<\/p>\n\n\n\n
Hogy vil\u00e1gos legyen, ezek a „tudom\u00e1nyok” egyike sem m\u0171k\u00f6d\u00f6tt. Val\u00f3j\u00e1ban minden alkalommal, amikor valaki azt \u00e1ll\u00edtotta, hogy megtal\u00e1lta a m\u00f3dj\u00e1t az emberek bels\u0151 tulajdons\u00e1gainak k\u00fcls\u0151 jellemz\u0151i alapj\u00e1n t\u00f6rt\u00e9n\u0151 m\u00e9r\u00e9s\u00e9re, az gyorsan egy eszk\u00f6zz\u00e9 v\u00e1lt, amellyel megk\u00fcl\u00f6nb\u00f6ztethet\u0151k az emberek fajuk vagy nem\u00fck alapj\u00e1n. Ennek az az oka, hogy az egy\u00e9nekre vonatkoz\u00f3 meg\u00e1llap\u00edt\u00e1sokat szinte mindig teljes popul\u00e1ci\u00f3ra alkalmazz\u00e1k. R\u00f6vid ugr\u00e1s az „egyesek okosabbak m\u00e1sokn\u00e1l” mond\u00e1st\u00f3l, hogy ” egyes fajok okosabbak m\u00e1sokn\u00e1l „. Egy teszt hasznos lehet annak felm\u00e9r\u00e9s\u00e9re, hogy l\u00e1nya melyik kalkulus\u00f3r\u00e1ra alkalmas. De rosszindulat\u00fa \u00e9s helytelen ezeket a teszteredm\u00e9nyeket arra haszn\u00e1lni, hogy azt \u00e1ll\u00edts\u00e1k, nincs sok n\u0151i szoftverm\u00e9rn\u00f6k, mert a l\u00e1nyok nem szeretik a matematik\u00e1t . Ennek ellen\u00e9re manaps\u00e1g az intelligenciatesztet \u00e9s az arcfelismer\u00e9st tov\u00e1bbra is haszn\u00e1lj\u00e1k, \u00e9s vissza\u00e9lnek mindenben, a marketingt\u0151l \u00e9s a munkaer\u0151-felv\u00e9telt\u0151l a f\u0151iskolai felv\u00e9telig \u00e9s a b\u0171n\u00fcld\u00f6z\u00e9sig.<\/p>\n\n\n\n
Kosinski tiszt\u00e1ban van v\u00e1lasztott ter\u00fclete hossz\u00fa, s\u00f6t\u00e9t t\u00f6rt\u00e9net\u00e9vel. Koponyam\u00e9r\u0151 el\u0151deihez hasonl\u00f3an \u0151 is \u00fagy v\u00e9li, hogy kutat\u00e1sai helyesek : az MI az arcfelismer\u00e9ssel kombin\u00e1lva pontosabban k\u00e9pes felt\u00e1rni szem\u00e9lyis\u00e9g\u00fcnket \u00e9s preferenci\u00e1inkat, mint az emberek. \u00c9s sz\u00e1m\u00e1ra ez a pontoss\u00e1g az, ami olyan vesz\u00e9lyess\u00e9 teszi a meg\u00e1llap\u00edt\u00e1sait. Att\u00f3l tart, hogy erre a k\u00e9pess\u00e9gre t\u00f6rekedve megalkot\u00f3i megs\u00e9rtik az emberek mag\u00e1n\u00e9let\u00e9t, \u00e9s a k\u00f6zv\u00e9lem\u00e9ny manipul\u00e1l\u00e1s\u00e1ra \u00e9s a kisebbs\u00e9gi csoportok \u00fcld\u00f6z\u00e9s\u00e9re haszn\u00e1lj\u00e1k fel. Azt mondja, hogy munk\u00e1ja nem az elnyom\u00e1s eszk\u00f6ze, mint a m\u00falt \u00e1ltudom\u00e1nya. Ez figyelmeztet\u00e9s a j\u00f6v\u0151re vonatkoz\u00f3an. Bizonyos \u00e9rtelemben \u0151 a mesters\u00e9ges intelligencia Oppenheimere, aki mindannyiunkat figyelmeztet a mesters\u00e9ges intelligencia bomb\u00e1inak puszt\u00edt\u00f3 potenci\u00e1lj\u00e1ra \u2013 mik\u00f6zben \u0151 \u00e9p\u00edti.<\/p>\n\n\n\n
„Hamarosan – mondja -, olyan helyzetbe ker\u00fclhet\u00fcnk, hogy ezek a modellek olyan tulajdons\u00e1gokkal \u00e9s kapacit\u00e1sokkal rendelkeznek, amelyek j\u00f3val megel\u0151zik azt, amir\u0151l az emberek \u00e1lmodhatn\u00e1nak. \u00c9s \u00e9szre sem fogjuk venni.”<\/p>\n\n\n\n
Amikor tal\u00e1lkozunk, Kosinski nem l\u00f3b\u00e1l tol\u00f3m\u00e9r\u0151vel, hogy felm\u00e9rje a szem\u00f6ld\u00f6k\u00f6met, \u00e9s meg\u00e1llap\u00edtsa az indolenci\u00e1ra val\u00f3 hajlamomat, ahogyan azt a 19. sz\u00e1zad frenol\u00f3gusai tett\u00e9k. Ehelyett egy kaliforniai alkalmi vir\u00e1gos ingben \u00e9s feh\u00e9r b\u0151rcip\u0151ben \u2013 zokni n\u00e9lk\u00fcl \u2013 egy naps\u00fct\u00f6tte Stanford udvarra vezet k\u00e1v\u00e9zni. \u00dczleti iskol\u00e1s di\u00e1kok boldog \u00e9s soksz\u00edn\u0171 t\u00f6mege vesz k\u00f6r\u00fcl benn\u00fcnket. Itt, egy t\u00f6k\u00e9letes kaliforniai napon, felv\u00e1zolja az esetet, amit\u0151l f\u00e9l, hogy titkos algoritmikus uralma lesz vil\u00e1gunkban.<\/p>\n\n\n\n
Miel\u0151tt f\u00e9nyk\u00e9pekkel dolgozott, Kosinski \u00e9rdekl\u0151d\u00f6tt a Facebook ir\u00e1nt. Amikor a 2000-es \u00e9vek k\u00f6zep\u00e9n doktoranduszk\u00e9nt Cambridge-ben volt, az a n\u00e9h\u00e1ny t\u00e1rsadalomtud\u00f3s, aki komolyan vette a felt\u00f6rekv\u0151 online vil\u00e1got, egy rejt\u00e9lyes v\u00f6lgynek tekintette, ahol az emberek l\u00e9nyeg\u00e9ben hamis szem\u00e9lyis\u00e9geket \u00f6lt\u00f6ttek magukra. Az, hogy az interneten hogyan viselkedtek, nem t\u00fckr\u00f6zte pszichol\u00f3gi\u00e1jukat vagy viselked\u00e9s\u00fcket a val\u00f3 vil\u00e1gban.<\/p>\n\n\n\n
Kosinski nem \u00e9rtett egyet. \u201eAzt \u00e9reztem, hogy m\u00e9g mindig \u00f6nmagam vagyok, mik\u00f6zben ezeket a term\u00e9keket \u00e9s szolg\u00e1ltat\u00e1sokat haszn\u00e1lom, \u00e9s a bar\u00e1taim \u00e9s az ismer\u0151seim is ilyenek\u201d \u2013 mondja. M\u00e9g a t\u00f6rpe paladinoknak vagy szexs\u00e1rk\u00e1nyoknak kiad\u00f3 embereknek is ugyanazok a szorong\u00e1saik, elfogults\u00e1gaik \u00e9s el\u0151\u00edt\u00e9leteik voltak, mint az IRL k\u00f6r\u00fcl.<\/p>\n\n\n\n
Szakdolgozat\u00e1nak tan\u00e1csad\u00f3ja legnagyobb megd\u00f6bben\u00e9s\u00e9re ez lett Kosinski megk\u00f6zel\u00edt\u00e9s\u00e9nek alapja. \u201eEz volt az els\u0151 c\u00e9l, hogy megmutassuk ezt a folytonoss\u00e1got\u201d \u2013 mondja. „\u00c9s ez vezetett el a m\u00e1sodik c\u00e9lhoz, amely a k\u00f6vetkez\u0151 volt: Ha m\u00e9g mindig \u00f6nmagunk vagyunk az interneten, az azt jelenti, hogy felhaszn\u00e1lhatjuk az online gy\u0171jt\u00f6tt adatokat \u2013 a Big Data -, hogy jobban meg\u00e9rts\u00fck az embereket.” Hipot\u00e9zis\u00e9nek tesztel\u00e9s\u00e9re Kosinski \u00e9s egy v\u00e9gz\u0151s di\u00e1k, David Stillwell a Cambridge-i Pszichometriai K\u00f6zpontban l\u00e9trehoztak egy myPersonality nev\u0171 Facebook-alkalmaz\u00e1st \u2013 egy r\u00e9gi iskolai magazin-st\u00edlus\u00fa kv\u00edzt, amely az olyan szem\u00e9lyis\u00e9gjegyeket tesztelte, mint a \u201enyitotts\u00e1g\u201d vagy a \u201ebez\u00e1rk\u00f3z\u00e1s\u201d, mik\u00f6zben felfel\u00e9 mozdult. az emberek Facebook-l\u00e1jkjai. Azt\u00e1n meg\u00e9p\u00edtettek egy sz\u00e1m\u00edt\u00f3g\u00e9pes modellt, amely k\u00f6zel 60 000 ember sz\u00e1m\u00e1ra t\u00e9rk\u00e9pezte le ezeket a kedvel\u00e9seket bizonyos szem\u00e9lyis\u00e9gjegyekhez.<\/p>\n\n\n\n
A Proceedings of the National Academy of Sciences 2013-ban publik\u00e1lt eredm\u00e9nyei elk\u00e9peszt\u0151nek t\u0171ntek . A Facebook like-ok \u00f6nmagukban 80%-os pontoss\u00e1ggal megj\u00f3solhatj\u00e1k valaki vall\u00e1s\u00e1t \u00e9s politik\u00e1j\u00e1t. A modell 88%-os pontoss\u00e1ggal tudta megmondani, hogy egy f\u00e9rfi meleg-e. N\u00e9ha \u00fagy t\u0171nt, hogy az algoritmus nem rendelkezik k\u00fcl\u00f6n\u00f6sebben m\u00e1gikus er\u0151vel \u2013 p\u00e9ld\u00e1ul a \u201eWicked\u201d c\u00edm\u0171 musical kedvel\u00e9se a f\u00e9rfi homoszexualit\u00e1s egyik vezet\u0151 el\u0151rejelz\u0151je volt. De a t\u00f6bbi \u00f6sszef\u00fcgg\u00e9s zavarba ejt\u0151 volt. A magas intelligencia legjobb el\u0151rejelz\u0151i k\u00f6z\u00e9 tartozik p\u00e9ld\u00e1ul a „zivatarok” \u00e9s a „g\u00f6nd\u00f6r krumpli” kedvel\u00e9se.<\/p>\n\n\n\n
Hogyan vont le a g\u00e9p ilyen pontosnak t\u0171n\u0151 k\u00f6vetkeztet\u00e9seket ilyen \u00f6nk\u00e9nyes adatokb\u00f3l? \u2013 Ki tudja, mi\u00e9rt? Stillwell, most a Pszichometriai K\u00f6zpont igazgat\u00f3ja mondja nekem. „Kit \u00e9rdekel, hogy mi\u00e9rt? Ha egy 10 000 egyedb\u0151l \u00e1ll\u00f3 csoportr\u00f3l van sz\u00f3, a hib\u00e1k megsz\u0171nnek, \u00e9s ez el\u00e9g j\u00f3 egy popul\u00e1ci\u00f3nak.” Stillwellt \u00e9s Kosinskit teh\u00e1t nem k\u00fcl\u00f6n\u00f6sebben \u00e9rdekli, hogy modelljeik mondanak-e valamit a t\u00e9nyleges oks\u00e1gr\u00f3l, az \u00f6sszef\u00fcgg\u00e9sek m\u00f6g\u00f6tt megh\u00faz\u00f3d\u00f3 magyar\u00e1zatr\u00f3l. El\u00e9g a korrel\u00e1ci\u00f3. M\u00f3dszer\u00fck lehet\u0151v\u00e9 tette a g\u00e9p sz\u00e1m\u00e1ra, hogy el\u0151re jelezze az emberi viselked\u00e9st \u00e9s preferenci\u00e1kat. Nem kell tudniuk \u2013 s\u0151t nem is t\u00f6r\u0151dni\u00fck \u2013 hogyan.<\/p>\n\n\n\n
Nem kellett sok id\u0151 ahhoz, hogy az ilyen modelleket felfegyverezz\u00e9k. A Cambridge-i Egyetem egy m\u00e1sik kutat\u00f3ja, Aleksandr Kogan hasonl\u00f3 \u00f6tleteket adott a Cambridge Analytica nev\u0171 politikai kamp\u00e1ny-tan\u00e1csad\u00f3nak , amely eladta szolg\u00e1ltat\u00e1sait Donald Trump 2016-os kamp\u00e1ny\u00e1nak \u00e9s az Egyes\u00fclt Kir\u00e1lys\u00e1g Brexit-p\u00e1rtjainak. A k\u00f6z\u00f6ss\u00e9gi m\u00e9dia h\u00edrcsatorn\u00e1inak manipul\u00e1l\u00e1s\u00e1ra \u00e9s a szavaz\u00e1si szok\u00e1sok megv\u00e1ltoztat\u00e1s\u00e1ra ir\u00e1nyul\u00f3 er\u0151fesz\u00edt\u00e9sek t\u00e9nylegesen befoly\u00e1solt\u00e1k ezeket a szavazatokat? Senki sem tudja biztosan. De egy \u00e9vvel k\u00e9s\u0151bb Stillwell \u00e9s Kosinski a myPersonality adatait felhaszn\u00e1lva pszichol\u00f3giailag testreszabott hirdet\u00e9seket hoztak l\u00e9tre, amelyek jelent\u0151sen befoly\u00e1solt\u00e1k azt, hogy 3,5 milli\u00f3 ember v\u00e1s\u00e1rolt online, szemben azokkal, akik nem nekik sz\u00e1nt hirdet\u00e9seket l\u00e1ttak. A kutat\u00e1s \u00e9len j\u00e1rt abban, ami manaps\u00e1g \u00e1ltal\u00e1nos: k\u00f6z\u00f6ss\u00e9gi m\u00e9dia algoritmusokat haszn\u00e1ltunk, hogy minden pontunk \u00e9s kattint\u00e1sunk alapj\u00e1n \u00e1ruljunk el dolgokat.<\/p>\n\n\n\n
K\u00f6r\u00fclbel\u00fcl ugyanabban az id\u0151ben Kosinski demonstr\u00e1lta, hogy kutat\u00e1sai manipul\u00e1lhatj\u00e1k az online v\u00e1s\u00e1rl\u00f3kat, egy csom\u00f3 c\u00e9g kezdett el \u00e1rulni arcfelismer\u0151 rendszereket. Akkoriban a rendszerek m\u00e9g abban sem voltak j\u00f3k, amit \u00e1ll\u00edt\u00f3lag csin\u00e1lnak: azonos\u00edt\u00e1s c\u00e9lj\u00e1b\u00f3l megk\u00fcl\u00f6nb\u00f6ztetni az egy\u00e9neket. Kosinski azonban azon t\u00f6prengett, vajon a szoftver k\u00e9pes-e felhaszn\u00e1lni a hatalmas sz\u00e1m\u00fa f\u00e9nyk\u00e9pbe \u00e1gyazott adatokat, ugyan\u00fagy, mint a Facebook-l\u00e1jkok eset\u00e9ben, hogy felismerjen olyan dolgokat, mint az \u00e9rzelmek \u00e9s a szem\u00e9lyis\u00e9gjegyek.<\/p>\n\n\n\n
A legt\u00f6bb tud\u00f3s ezt a gondolatot a modern fiziogn\u00f3mia egy form\u00e1j\u00e1nak tartja \u2013 egy \u00e1ltudom\u00e1nynak, amely azon a t\u00e9ves felt\u00e9telez\u00e9sen alapul, hogy arcunk el\u00e1rul valamit elm\u00e9nkr\u0151l. Persze sok mindent el\u00e1rulhatunk valakir\u0151l, ha r\u00e1n\u00e9z\u00fcnk. Egy pillant\u00e1ssal meglehet\u0151s pontoss\u00e1ggal kital\u00e1lhatunk olyan dolgokat, mint az \u00e9letkor, a nem \u00e9s a faj. Egyszer\u0171 es\u00e9lyek alapj\u00e1n azt sejthetj\u00fck, hogy egy id\u0151sebb feh\u00e9r f\u00e9rfi nagyobb val\u00f3sz\u00edn\u0171s\u00e9ggel politikailag konzervat\u00edv, mint egy fiatalabb latin n\u0151; egy borost\u00e1s sr\u00e1cnak koszos pulcsiban \u00e9s lebontott tornacip\u0151ben val\u00f3sz\u00edn\u0171leg kevesebb k\u00e9szp\u00e9nze van, mint egy Chanel-\u00f6lt\u00f6ny\u00f6s n\u0151nek. De olyan ig\u00e9nyes dolgok, mint az extroverzi\u00f3, az intelligencia vagy a megb\u00edzhat\u00f3s\u00e1g? Gyer\u00fcnk.<\/p>\n\n\n\n
Meg tudjuk mondani olyan dolgokat, mint az \u00e9letkor, a nem \u00e9s a faj, ha csak r\u00e1n\u00e9z\u00fcnk valakire. De extroverzi\u00f3, vagy intelligencia? Gyer\u00fcnk.
Kosinski azonban ism\u00e9t \u00fagy gondolta, hogy egy g\u00e9p, amely a Big Data-ra t\u00e1maszkodik, olyan m\u00f3don k\u00e9pes kital\u00e1lni a lelk\u00fcnket az arcunkr\u00f3l, ahogyan azt az emberek nem k\u00e9pesek. Az emberek az arcod alapj\u00e1n \u00edt\u00e9lnek meg t\u00e9ged, mondja, \u00e9s ezek alapj\u00e1n m\u00e1sk\u00e9pp b\u00e1nnak veled. Ez viszont megv\u00e1ltoztatja a pszichol\u00f3gi\u00e1j\u00e1t. Ha az emberek folyamatosan munk\u00e1val \u00e9s bulikra val\u00f3 megh\u00edv\u00e1ssal jutalmaznak, mert vonz\u00f3nak tartanak, az id\u0151vel megv\u00e1ltoztatja a karakter\u00e9t. Az arcod hat\u00e1ssal van arra, hogy az emberek hogyan b\u00e1nnak veled, \u00e9s az, ahogyan az emberek b\u00e1nnak veled, befoly\u00e1solja azt, hogy ki vagy. Csak egy algoritmusra volt sz\u00fcks\u00e9ge, amely kiolvassa az arcunkra \u00edrt nyomokat \u2013 hogy elk\u00fcl\u00f6n\u00edtse a g\u00f6nd\u00f6r krumplit a Broadway musicalekt\u0151l.<\/p>\n\n\n\n
Kosinski \u00e9s egy koll\u00e9g\u00e1ja \u00f6sszekapart egy t\u00e1rskeres\u0151 oldalt, ahol 36 360 f\u00e9rfit \u00e9s 38 593 n\u0151t \u00e1br\u00e1zoltak, egyenl\u0151 ar\u00e1nyban melegek \u00e9s heteroszexu\u00e1lisok k\u00f6z\u00f6tt (amint azt a „keres\u0151” mez\u0151k jelzik). Ezut\u00e1n a VGG-Face nev\u0171 arcfelismer\u0151 algoritmust haszn\u00e1lta, amelyet 2,6 milli\u00f3 k\u00e9pen k\u00e9peztek ki, hogy 500 v\u00e1ltoz\u00f3 alapj\u00e1n hasonl\u00edtsa \u00f6ssze tesztalanyait. A modellt p\u00e1rban bemutatva f\u00e9nyk\u00e9pekkel \u2013 egy meleg \u00e9s egy heteroszexu\u00e1lis szem\u00e9ly \u2013 arra k\u00e9rte, v\u00e1lassza ki, melyik\u00fck meleg.<\/p>\n\n\n\n
Kosinski modellje legal\u00e1bb \u00f6t szem\u00e9lyr\u0151l k\u00e9sz\u00fclt f\u00e9nyk\u00e9ppel 91%-os pontoss\u00e1ggal v\u00e1lasztotta ki a meleg szem\u00e9lyt a p\u00e1rb\u00f3l. Ezzel szemben az embereknek csak az esetek 61%-\u00e1ban volt igazuk.<\/p>\n\n\n\n
A pap\u00edr magyar\u00e1zatot mutat \u2013 hormon\u00e1lis expoz\u00edci\u00f3 az anyam\u00e9hben valami valami. Kosinskit azonban megint nem igaz\u00e1n \u00e9rdekli, hogy mi\u00e9rt m\u0171k\u00f6dik a modell. Sz\u00e1m\u00e1ra az a fontos, hogy egy t\u00f6bb ezer k\u00e9pre kik\u00e9pzett sz\u00e1m\u00edt\u00f3g\u00e9p pontos k\u00f6vetkeztet\u00e9seket tudjon levonni olyan dolgokr\u00f3l, mint p\u00e9ld\u00e1ul a szexu\u00e1lis preferenci\u00e1k, ha t\u00f6bb l\u00e1thatatlan r\u00e9szletet kombin\u00e1l egy szem\u00e9lyr\u0151l.<\/p>\n\n\n\n
M\u00e1sok nem \u00e9rtettek egyet. Az arcokat \u00e9s \u00e9rzelmeket tanulm\u00e1nyoz\u00f3 kutat\u00f3k mind a matematik\u00e1j\u00e1t, mind a k\u00f6vetkeztet\u00e9seit kritiz\u00e1lt\u00e1k. A The Guardian Kosinskit a feladatra vette, hogy el\u0151ad\u00e1st tartson a h\u00edresen homof\u00f3b Oroszorsz\u00e1gban v\u00e9gzett munk\u00e1j\u00e1r\u00f3l. Az Economist kutat\u00e1s\u00e1t ” rossz h\u00edrnek ” nevezte mindenkinek, akinek titkai vannak. A Human Rights Campaign \u00e9s a GLAAD k\u00f6zlem\u00e9nyt adott ki, amelyben el\u00edt\u00e9lt\u00e9k a tanulm\u00e1nyt , figyelmeztetve, hogy brut\u00e1lis rezsimek felhaszn\u00e1lhatj\u00e1k azt melegek \u00fcld\u00f6z\u00e9s\u00e9re. „Stanfordnak el kellene hat\u00e1rol\u00f3dnia az ilyen \u00f3cska tudom\u00e1nyokt\u00f3l” – mondta az Emberi Jogi Tan\u00e1cs -, ahelyett, hogy nev\u00e9t \u00e9s hiteless\u00e9g\u00e9t a vesz\u00e9lyesen hib\u00e1s kutat\u00e1soknak k\u00f6lcs\u00f6n\u00f6zn\u00e9, \u00e9s a vil\u00e1got \u2013 \u00e9s ebben az esetben t\u00f6bb milli\u00f3 ember \u00e9let\u00e9t \u2013 rosszabbul \u00e9s kev\u00e9sb\u00e9 biztons\u00e1gosan hagyn\u00e1, mint kor\u00e1bban. „<\/p>\n\n\n\n
Kosinski megvakult. „Az emberek azt mondt\u00e1k:” A stanfordi professzor arcfelismer\u0151 algoritmusokat fejlesztett ki egy gaydar fel\u00e9p\u00edt\u00e9s\u00e9hez. De val\u00f3j\u00e1ban nem is az arc megjelen\u00e9se \u00e9rdekel, hanem a mag\u00e1n\u00e9let, \u00e9s az algoritmikus er\u0151, amit mi, emberek nem tudunk megtenni. Nem akart szkennert \u00e9p\u00edteni a jobboldaliak sz\u00e1m\u00e1ra, hogy elvigy\u00e9k az iskolasz\u00e9ki \u00fcl\u00e9sekre, mondja. Azt akarta, hogy a politikai d\u00f6nt\u00e9shoz\u00f3k tegyenek l\u00e9p\u00e9seket, a melegek pedig k\u00e9sz\u00fcljenek fel az elj\u00f6vend\u0151 vil\u00e1gra.<\/p>\n\n\n\n
„Nem hoztunk l\u00e9tre egy adatv\u00e9delmi eszk\u00f6zt, hanem megmutattuk, hogy az alapvet\u0151 \u00e9s sz\u00e9les k\u00f6rben haszn\u00e1lt m\u00f3dszerek komoly adatv\u00e9delmi fenyeget\u00e9st jelentenek” – \u00edrta Kosinski \u00e9s t\u00e1rsszerz\u0151je. „Rem\u00e9lj\u00fck, hogy eredm\u00e9nyeink t\u00e1j\u00e9koztatj\u00e1k a k\u00f6zv\u00e9lem\u00e9nyt \u00e9s a d\u00f6nt\u00e9shoz\u00f3kat, \u00e9s arra \u00f6szt\u00f6nzik \u0151ket, hogy olyan technol\u00f3gi\u00e1kat tervezzenek \u00e9s olyan ir\u00e1nyelveket \u00edrjanak, amelyek cs\u00f6kkentik a homoszexu\u00e1lis k\u00f6z\u00f6ss\u00e9gek kock\u00e1zatait szerte a vil\u00e1gon.”<\/p>\n\n\n\n
Kosinski kitartott mellette. Ez\u00fattal t\u00f6bb mint egymilli\u00f3 f\u00e9nyk\u00e9pet kapart le a Facebookr\u00f3l \u00e9s egy t\u00e1rskeres\u0151 oldalr\u00f3l, valamint a profiljukban felt\u00fcntetett politikai hovatartoz\u00e1sr\u00f3l. A VGGFace2 \u2013 ny\u00edlt forr\u00e1sk\u00f3d\u00fa, b\u00e1rki sz\u00e1m\u00e1ra el\u00e9rhet\u0151, aki ilyesmit ki akar pr\u00f3b\u00e1lni \u2013 seg\u00edts\u00e9g\u00e9vel ezeket az arcokat t\u00f6bb ezer adatpontt\u00e1 konvert\u00e1lta, \u00e9s \u00e1tlagolta a liber\u00e1lisok \u00e9s a konzervat\u00edvok adatait. Azt\u00e1n megmutatott egy \u00faj algoritmust, t\u00f6bb sz\u00e1zezer p\u00e1r k\u00e9pet a t\u00e1rskeres\u0151 oldalr\u00f3l, \u00e9s megk\u00e9rte, hogy v\u00e1lassza el a MAGA szerelmeseit Bernie testv\u00e9rekt\u0151l. A g\u00e9pnek az esetek 72%-\u00e1ban siker\u00fclt . Az \u00e9letkornak, nemnek \u00e9s fajnak megfelel\u0151 p\u00e1rokban \u2013 a k\u00f6nny\u0171 jeleket kiiktatva \u2013 a pontoss\u00e1g cs\u00f6kkent, de csak egy kicsit.<\/p>\n\n\n\n
Ez nagy ijeszt\u0151 \u00fcgynek t\u0171nhet. A mesters\u00e9ges intelligencia meg tudja \u00e1llap\u00edtani, ha politikailag rossz a gondolkod\u00e1sunk! Megzavarhatja a szexualit\u00e1sunkat! De a legt\u00f6bb ember, aki az arcokat \u00e9s a szem\u00e9lyis\u00e9get tanulm\u00e1nyozza, azt gondolja, hogy Kosinski teljesen t\u00e9ved. „Egy\u00e1ltal\u00e1n nem vitatom azt a t\u00e9nyt, hogy meg lehet tervezni egy olyan algoritmust, amely a v\u00e9letlenn\u00e9l sokkal jobban kital\u00e1lja, hogy egy szem\u00e9ly meleg vagy hetero” – mondja Alexander Todorov, a Chicag\u00f3i Egyetem pszichol\u00f3gusa. „De ez az\u00e9rt van, mert az \u00f6sszes k\u00e9pet maguk a felhaszn\u00e1l\u00f3k posztolt\u00e1k, \u00edgy sok a zavar.” M\u00e1s sz\u00f3val Kosinski modellje nem vesz fel mikroszkopikusan finom jelz\u00e9seket a f\u00e9nyk\u00e9pekr\u0151l. Ez csak feler\u0151s\u00f6dik abban, ahogy a melegek bemutatkoznak a t\u00e1rskeres\u0151 oldalakon \u2013 ami nem meglep\u0151 m\u00f3don gyakran nagyon k\u00fcl\u00f6nb\u00f6zik att\u00f3l, ahogy a heterog\u00e9n emberek bemutatj\u00e1k magukat a potenci\u00e1lis partnereknek. Ellen\u0151rizd ezt a fot\u00f3kon, \u00e9s az algoritmikus gaydar pontoss\u00e1ga kicsivel jobb a v\u00e9letlenn\u00e9l.<\/p>\n\n\n\n
Kosinski megpr\u00f3b\u00e1lt v\u00e1laszolni ezekre a kritik\u00e1kra. Legut\u00f3bbi, a politikai hovatartoz\u00e1sr\u00f3l sz\u00f3l\u00f3 tanulm\u00e1ny\u00e1ban saj\u00e1t fot\u00f3kat k\u00e9sz\u00edtett tesztalanyokr\u00f3l, ahelyett, hogy az internetet kaparta volna a saj\u00e1t maga \u00e1ltal k\u00f6zz\u00e9tett f\u00e9nyk\u00e9pek ut\u00e1n. Ez lehet\u0151v\u00e9 tette sz\u00e1m\u00e1ra, hogy t\u00f6bb v\u00e1ltoz\u00f3t szab\u00e1lyozzon \u2013 kiv\u00e1gta a h\u00e1tteret, meg\u0151rizte a frizur\u00e1j\u00e1t, \u00e9s gondoskodott arr\u00f3l, hogy az emberek semleges arckifejez\u00e9ssel k\u00f6zvetlen\u00fcl a kamer\u00e1ba n\u00e9zzenek. Azt\u00e1n ezzel az \u00faj fot\u00f3k\u00e9szlettel ism\u00e9t arra k\u00e9rte az algoritmust, hogy v\u00e1lassza el a konzervat\u00edvokat a liber\u00e1lisokt\u00f3l.<\/p>\n\n\n\n
K\u00e9t figura egy sz\u00ednes technol\u00f3giai modulokb\u00f3l k\u00e9sz\u00fclt ketrecbe z\u00e1rva
Brian Stauffer a BI-nak
Ez\u00fattal a g\u00e9p t\u00f6red\u00e9kesen rosszabbul teljes\u00edtett, mint az emberek abban, hogy pontosan el\u0151re jelezze valaki politikai hovatartoz\u00e1s\u00e1t. \u00c9s ebben rejlik a probl\u00e9ma. Nemcsak arr\u00f3l van sz\u00f3, hogy Kosinski k\u00f6zponti meg\u00e1llap\u00edt\u00e1sa \u2013 miszerint a mesters\u00e9ges intelligencia jobban tud olvasni az emberekr\u0151l, mint az emberek \u2013 val\u00f3sz\u00edn\u0171leg t\u00e9ves. \u00dagyis hajlamosak lesz\u00fcnk elhinni. A sz\u00e1m\u00edt\u00e1s, az elme helyett a g\u00e9pben tal\u00e1lhat\u00f3 matematika objekt\u00edvnek \u00e9s t\u00e9vedhetetlennek t\u0171nik \u2013 m\u00e9g akkor is, ha a sz\u00e1m\u00edt\u00f3g\u00e9p csak a saj\u00e1t elfogults\u00e1gainkat operacionaliz\u00e1lja.<\/p>\n\n\n\n
Ez a hib\u00e1s hiedelem nem csak a tudom\u00e1nynak az elm\u00falt h\u00e1rom \u00e9vsz\u00e1zadban az emberi l\u00e9nyek m\u00e9r\u00e9s\u00e9re ir\u00e1nyul\u00f3 t\u00e9ves \u00e9s f\u00e9lelmetes k\u00eds\u00e9rleteinek a k\u00f6z\u00e9ppontj\u00e1ban \u00e1ll. Mag\u00e1nak a tudom\u00e1nynak a k\u00f6z\u00e9ppontj\u00e1ban \u00e1ll. A tud\u00f3sok a statisztik\u00e1kon kereszt\u00fcl tudj\u00e1k, hogy higgy\u00e9k-e el, hogy olyan adatokat tal\u00e1ltak, amelyek meger\u0151s\u00edtik a hipot\u00e9zist. A modern statisztika \u00fatt\u00f6r\u0151i \u2013 Francis Galton, Ronald Fisher \u00e9s Karl Pearson \u2013 a 19. sz\u00e1zad v\u00e9g\u00e9nek \u00e9s a 20. sz\u00e1zad elej\u00e9nek legkiv\u00e1l\u00f3bb eugenikusai \u00e9s fiziogn\u00f3musai k\u00f6z\u00e9 tartoztak. Azt hitt\u00e9k, hogy a feket\u00e9k vademberek, a zsid\u00f3k egy ereszcsatorna, hogy csak a „megfelel\u0151” t\u00edpus\u00fa embereknek szabad megsz\u00fclni\u00fck. Ahogyan Aubrey Clayton matematikus \u00e9rvelt, sz\u00f3 szerint az\u00e9rt tal\u00e1lt\u00e1k ki a statisztikai elemz\u00e9st, hogy t\u00e1rgyilagoss\u00e1 tegy\u00e9k virulens faji el\u0151\u00edt\u00e9leteiket.<\/p>\n\n\n\n
Az \u00e1ltaluk kidolgozott m\u00f3dszerek \u00e9s technik\u00e1k ma is vel\u00fcnk vannak. \u0150k \u00e1llnak az IQ-teszt \u00e9s a f\u0151iskolai felv\u00e9teli vizsg\u00e1k, a rend\u0151rs\u00e9g \u00e1ltal v\u00e9gzett sz\u00fcntelen faji profilalkot\u00e1s m\u00f6g\u00f6tt, \u00e9s a rendszerek, amelyeket arra haszn\u00e1lnak, hogy az \u00e1ll\u00e1sra jelentkez\u0151ket olyan dolgokra sz\u0171rj\u00e9k, mint a „puha k\u00e9szs\u00e9gek” \u00e9s a „n\u00f6veked\u00e9si gondolkod\u00e1sm\u00f3d”. Nem v\u00e9letlen, hogy Hitler az eugenikusokt\u00f3l vette a jelz\u00e9seket \u2013 bele\u00e9rtve az Egyes\u00fclt \u00c1llamok Legfels\u0151bb B\u00edr\u00f3s\u00e1g\u00e1nak 1929-es h\u00edrhedt \u00edt\u00e9let\u00e9t, amely meger\u0151s\u00edtette a tudom\u00e1ny \u00e1ltal \u201eimbecilisnek\u201d tartott n\u0151k k\u00e9nyszersteriliz\u00e1l\u00e1s\u00e1t. K\u00e9pzeld el, mit kezdene egy m\u00e1sodik Trump-korm\u00e1ny a mesters\u00e9ges intelligencia \u00e1ltal vez\u00e9relt arcfelismer\u00e9ssel a hat\u00e1r\u00e1tkel\u0151n \u2013 vagy val\u00f3j\u00e1ban b\u00e1rhol, azzal a c\u00e9llal, hogy azonos\u00edtsa az \u201e\u00e1llam ellens\u00e9geit\u201d. Az ilyen eszk\u00f6z\u00f6k val\u00f3j\u00e1ban m\u00e1r be vannak \u00e9p\u00edtve a l\u0151szer-automat\u00e1kba (tal\u00e1n az egyik legdisztopikusabb kifejez\u00e9s, amit valaha beg\u00e9peltem). Be\u00e9p\u00edtik \u0151ket az Amerika d\u00e9li hat\u00e1r\u00e1n alkalmazott sz\u00e1mos technol\u00f3gi\u00e1ba is , amelyeket olyan startupok \u00e9p\u00edtenek, amelyeket ugyanazok a szem\u00e9lyek alap\u00edtottak \u00e9s finansz\u00edroztak, akik t\u00e1mogatj\u00e1k a Trump-kamp\u00e1nyt. Szerinted a rasszizmus most rendszerszer\u0171? Csak v\u00e1rja meg, am\u00edg a rendszer sz\u00f3 szerint be van programozva vele.<\/p>\n\n\n\n
A k\u00fcl\u00f6nf\u00e9le technol\u00f3gi\u00e1k, amelyeket \u201emesters\u00e9ges intelligenci\u00e1nak\u201d nevezt\u00fcnk, alapvet\u0151en csak statisztikai motorok, amelyeket a mi elfogults\u00e1gunkra k\u00e9peztek ki. Kosinski \u00fagy gondolja, hogy az AI azon k\u00e9pess\u00e9ge, hogy olyan szem\u00e9lyis\u00e9gi \u00edt\u00e9leteket hozzon, amelyeket tanulm\u00e1nyozott, csak jobb lesz. \u201eV\u00e9g\u00fcl egy olyan modellt fejleszt\u00fcnk ki, amely olyan eredm\u00e9nyeket produk\u00e1l, mint az emberi elme\u201d \u2013 mondja nekem. \u00c9s ha a g\u00e9p alaposan \u00e1ttanulm\u00e1nyozta \u00e9s \u00farr\u00e1 lett a t\u00fals\u00e1gosan emberi el\u0151\u00edt\u00e9leteinken, \u00fagy v\u00e9li, akkor k\u00e9pes lesz belel\u00e1tni az elm\u00e9nkbe, \u00e9s b\u00e1rmit felhaszn\u00e1lni, amit ott tal\u00e1l, fel tudja h\u00edvni a l\u00f6v\u00e9seket.<\/p>\n\n\n\n
Kosinski r\u00e9m\u00e1lm\u00e1ban ez nem az lesz, hogy a Skynet feled\u00e9sbe mer\u00fcl minket. A holnap kifinomult mesters\u00e9ges intelligenci\u00e1ja olyan j\u00f3l ismer minket, hogy nem lesz sz\u00fcks\u00e9ge er\u0151szakra \u2013 egyszer\u0171en biztos\u00edtja a megfelel\u00e9s\u00fcnket az\u00e1ltal, hogy pontosan megadja, amit akarunk. \u201eGondolj egy olyan modellre, aki elolvasta a bolyg\u00f3 \u00f6sszes k\u00f6nyv\u00e9t, k\u00f6zelr\u0151l ismer t\u00e9ged, tud veled besz\u00e9lni, \u00e9s nem csak te, hanem t\u00f6bb milli\u00e1rd ember is jutalmazza a vonz\u00f3 interakci\u00f3k\u00e9rt\u201d \u2013 mondja. „Egy mesteri manipul\u00e1tor lesz – egy mesteri sz\u00f3rakoztat\u00f3 rendszer.” Ett\u0151l tart Kosinski a j\u00f6v\u0151t\u0151l \u2013 m\u00e9g akkor is, ha tov\u00e1bbra is azokkal a modellekkel b\u00fctyk\u00f6l, amelyek bizony\u00edtj\u00e1k, hogy ez be fog k\u00f6vetkezni.<\/p>\n\n\n\n