Michal Kosinski feszegeti a mesterséges intelligencia képességeinek határait – és ez megrémíti őt
Michal Kosinski pontosan tudja, hogyan hangzik, amikor kutatásairól beszél. És hogy hogyan hangzik, az nem nagyszerű.
A Stanford Egyetem pszichológusa, Kosinski a pszichometria specialistája – egy olyan terület, amely az emberi elme aspektusait próbálja mérni. Több mint egy évtizede a munkája teljesen megrémítette az embereket. Tanulmányozásról tanulmányra Kosinski félelmetesen hihető állításokat tett arra vonatkozóan, hogy a mesterséges intelligencia gépi tanulási algoritmusai mélyen magánjellegű dolgokat képesek felismerni rólunk – intelligenciánkat, szexuális preferenciáinkat, politikai meggyőződésünket – a Facebook-lájkjaink és az arcunkról készült fényképeink felhasználásával. .
„Nem is érdekelnek az arcok” – erősíti Kosinski. „Semmi sem utalt a karrierem során arra, hogy néhány évet az emberek megjelenésének nézegetésével töltenék.”
Kosinskit az adatok és a pszichológia érdekli. És mik a fényképek, ha nem pixeles adatok? „A pszichológiai elmélet azt kiabálja az arcodba, hogy kapcsolatnak kell lennie az arc megjelenése és az intim vonások között” – mondja. Ezért hiszi, hogy belső életünket külső tulajdonságaink alapján is meg lehet ítélni.
Ez egy nyugtalanító hatású hiedelem. A tudomány évszázadok óta próbál isteni igazságokat kideríteni a személyiségről és a viselkedésről különböző tesztek és képek alapján. Már az 1700-as években a fiziognómikusok arcvonásokat mértek, és olyan kimondhatatlan tulajdonságokat kerestek, mint a nemesség és az erkölcstelenség. A frenológusok tolómérővel mérték meg az emberek fején lévő dudorokat, remélve, hogy diagnosztizálják a mentális fogyatékosságokat vagy erkölcsi hiányosságokat. Az eugenikusok fényképeket és IQ-teszteket használtak annak megállapítására, hogy mely emberek „alsóbbrendűek”, és sterilizálták azokat, akik nem voltak megfelelőek – általában mindenkiről derült ki, aki nem fehér és gazdag. A módszerek különböztek, de a mögöttes elmélet ugyanaz maradt: a mérések valamilyen módon felmérhetik az elmét és az ember értékét a társadalom számára.
Hogy világos legyen, ezek a „tudományok” egyike sem működött. Valójában minden alkalommal, amikor valaki azt állította, hogy megtalálta a módját az emberek belső tulajdonságainak külső jellemzői alapján történő mérésére, az gyorsan egy eszközzé vált, amellyel megkülönböztethetők az emberek fajuk vagy nemük alapján. Ennek az az oka, hogy az egyénekre vonatkozó megállapításokat szinte mindig teljes populációra alkalmazzák. Rövid ugrás az „egyesek okosabbak másoknál” mondástól, hogy ” egyes fajok okosabbak másoknál „. Egy teszt hasznos lehet annak felmérésére, hogy lánya melyik kalkulusórára alkalmas. De rosszindulatú és helytelen ezeket a teszteredményeket arra használni, hogy azt állítsák, nincs sok női szoftvermérnök, mert a lányok nem szeretik a matematikát . Ennek ellenére manapság az intelligenciatesztet és az arcfelismerést továbbra is használják, és visszaélnek mindenben, a marketingtől és a munkaerő-felvételtől a főiskolai felvételig és a bűnüldözésig.
Kosinski tisztában van választott területe hosszú, sötét történetével. Koponyamérő elődeihez hasonlóan ő is úgy véli, hogy kutatásai helyesek : az MI az arcfelismeréssel kombinálva pontosabban képes feltárni személyiségünket és preferenciáinkat, mint az emberek. És számára ez a pontosság az, ami olyan veszélyessé teszi a megállapításait. Attól tart, hogy erre a képességre törekedve megalkotói megsértik az emberek magánéletét, és a közvélemény manipulálására és a kisebbségi csoportok üldözésére használják fel. Azt mondja, hogy munkája nem az elnyomás eszköze, mint a múlt áltudománya. Ez figyelmeztetés a jövőre vonatkozóan. Bizonyos értelemben ő a mesterséges intelligencia Oppenheimere, aki mindannyiunkat figyelmeztet a mesterséges intelligencia bombáinak pusztító potenciáljára – miközben ő építi.
„Hamarosan – mondja -, olyan helyzetbe kerülhetünk, hogy ezek a modellek olyan tulajdonságokkal és kapacitásokkal rendelkeznek, amelyek jóval megelőzik azt, amiről az emberek álmodhatnának. És észre sem fogjuk venni.”
Amikor találkozunk, Kosinski nem lóbál tolómérővel, hogy felmérje a szemöldökömet, és megállapítsa az indolenciára való hajlamomat, ahogyan azt a 19. század frenológusai tették. Ehelyett egy kaliforniai alkalmi virágos ingben és fehér bőrcipőben – zokni nélkül – egy napsütötte Stanford udvarra vezet kávézni. Üzleti iskolás diákok boldog és sokszínű tömege vesz körül bennünket. Itt, egy tökéletes kaliforniai napon, felvázolja az esetet, amitől fél, hogy titkos algoritmikus uralma lesz világunkban.
Mielőtt fényképekkel dolgozott, Kosinski érdeklődött a Facebook iránt. Amikor a 2000-es évek közepén doktoranduszként Cambridge-ben volt, az a néhány társadalomtudós, aki komolyan vette a feltörekvő online világot, egy rejtélyes völgynek tekintette, ahol az emberek lényegében hamis személyiségeket öltöttek magukra. Az, hogy az interneten hogyan viselkedtek, nem tükrözte pszichológiájukat vagy viselkedésüket a való világban.
Kosinski nem értett egyet. „Azt éreztem, hogy még mindig önmagam vagyok, miközben ezeket a termékeket és szolgáltatásokat használom, és a barátaim és az ismerőseim is ilyenek” – mondja. Még a törpe paladinoknak vagy szexsárkányoknak kiadó embereknek is ugyanazok a szorongásaik, elfogultságaik és előítéleteik voltak, mint az IRL körül.
Szakdolgozatának tanácsadója legnagyobb megdöbbenésére ez lett Kosinski megközelítésének alapja. „Ez volt az első cél, hogy megmutassuk ezt a folytonosságot” – mondja. „És ez vezetett el a második célhoz, amely a következő volt: Ha még mindig önmagunk vagyunk az interneten, az azt jelenti, hogy felhasználhatjuk az online gyűjtött adatokat – a Big Data -, hogy jobban megértsük az embereket.” Hipotézisének tesztelésére Kosinski és egy végzős diák, David Stillwell a Cambridge-i Pszichometriai Központban létrehoztak egy myPersonality nevű Facebook-alkalmazást – egy régi iskolai magazin-stílusú kvízt, amely az olyan személyiségjegyeket tesztelte, mint a „nyitottság” vagy a „bezárkózás”, miközben felfelé mozdult. az emberek Facebook-lájkjai. Aztán megépítettek egy számítógépes modellt, amely közel 60 000 ember számára térképezte le ezeket a kedveléseket bizonyos személyiségjegyekhez.
A Proceedings of the National Academy of Sciences 2013-ban publikált eredményei elképesztőnek tűntek . A Facebook like-ok önmagukban 80%-os pontossággal megjósolhatják valaki vallását és politikáját. A modell 88%-os pontossággal tudta megmondani, hogy egy férfi meleg-e. Néha úgy tűnt, hogy az algoritmus nem rendelkezik különösebben mágikus erővel – például a „Wicked” című musical kedvelése a férfi homoszexualitás egyik vezető előrejelzője volt. De a többi összefüggés zavarba ejtő volt. A magas intelligencia legjobb előrejelzői közé tartozik például a „zivatarok” és a „göndör krumpli” kedvelése.
Hogyan vont le a gép ilyen pontosnak tűnő következtetéseket ilyen önkényes adatokból? – Ki tudja, miért? Stillwell, most a Pszichometriai Központ igazgatója mondja nekem. „Kit érdekel, hogy miért? Ha egy 10 000 egyedből álló csoportról van szó, a hibák megszűnnek, és ez elég jó egy populációnak.” Stillwellt és Kosinskit tehát nem különösebben érdekli, hogy modelljeik mondanak-e valamit a tényleges okságról, az összefüggések mögött meghúzódó magyarázatról. Elég a korreláció. Módszerük lehetővé tette a gép számára, hogy előre jelezze az emberi viselkedést és preferenciákat. Nem kell tudniuk – sőt nem is törődniük – hogyan.
Nem kellett sok idő ahhoz, hogy az ilyen modelleket felfegyverezzék. A Cambridge-i Egyetem egy másik kutatója, Aleksandr Kogan hasonló ötleteket adott a Cambridge Analytica nevű politikai kampány-tanácsadónak , amely eladta szolgáltatásait Donald Trump 2016-os kampányának és az Egyesült Királyság Brexit-pártjainak. A közösségi média hírcsatornáinak manipulálására és a szavazási szokások megváltoztatására irányuló erőfeszítések ténylegesen befolyásolták ezeket a szavazatokat? Senki sem tudja biztosan. De egy évvel később Stillwell és Kosinski a myPersonality adatait felhasználva pszichológiailag testreszabott hirdetéseket hoztak létre, amelyek jelentősen befolyásolták azt, hogy 3,5 millió ember vásárolt online, szemben azokkal, akik nem nekik szánt hirdetéseket láttak. A kutatás élen járt abban, ami manapság általános: közösségi média algoritmusokat használtunk, hogy minden pontunk és kattintásunk alapján áruljunk el dolgokat.
Körülbelül ugyanabban az időben Kosinski demonstrálta, hogy kutatásai manipulálhatják az online vásárlókat, egy csomó cég kezdett el árulni arcfelismerő rendszereket. Akkoriban a rendszerek még abban sem voltak jók, amit állítólag csinálnak: azonosítás céljából megkülönböztetni az egyéneket. Kosinski azonban azon töprengett, vajon a szoftver képes-e felhasználni a hatalmas számú fényképbe ágyazott adatokat, ugyanúgy, mint a Facebook-lájkok esetében, hogy felismerjen olyan dolgokat, mint az érzelmek és a személyiségjegyek.
A legtöbb tudós ezt a gondolatot a modern fiziognómia egy formájának tartja – egy áltudománynak, amely azon a téves feltételezésen alapul, hogy arcunk elárul valamit elménkről. Persze sok mindent elárulhatunk valakiről, ha ránézünk. Egy pillantással meglehetős pontossággal kitalálhatunk olyan dolgokat, mint az életkor, a nem és a faj. Egyszerű esélyek alapján azt sejthetjük, hogy egy idősebb fehér férfi nagyobb valószínűséggel politikailag konzervatív, mint egy fiatalabb latin nő; egy borostás srácnak koszos pulcsiban és lebontott tornacipőben valószínűleg kevesebb készpénze van, mint egy Chanel-öltönyös nőnek. De olyan igényes dolgok, mint az extroverzió, az intelligencia vagy a megbízhatóság? Gyerünk.
Meg tudjuk mondani olyan dolgokat, mint az életkor, a nem és a faj, ha csak ránézünk valakire. De extroverzió, vagy intelligencia? Gyerünk.
Kosinski azonban ismét úgy gondolta, hogy egy gép, amely a Big Data-ra támaszkodik, olyan módon képes kitalálni a lelkünket az arcunkról, ahogyan azt az emberek nem képesek. Az emberek az arcod alapján ítélnek meg téged, mondja, és ezek alapján másképp bánnak veled. Ez viszont megváltoztatja a pszichológiáját. Ha az emberek folyamatosan munkával és bulikra való meghívással jutalmaznak, mert vonzónak tartanak, az idővel megváltoztatja a karakterét. Az arcod hatással van arra, hogy az emberek hogyan bánnak veled, és az, ahogyan az emberek bánnak veled, befolyásolja azt, hogy ki vagy. Csak egy algoritmusra volt szüksége, amely kiolvassa az arcunkra írt nyomokat – hogy elkülönítse a göndör krumplit a Broadway musicalektől.
Kosinski és egy kollégája összekapart egy társkereső oldalt, ahol 36 360 férfit és 38 593 nőt ábrázoltak, egyenlő arányban melegek és heteroszexuálisok között (amint azt a „kereső” mezők jelzik). Ezután a VGG-Face nevű arcfelismerő algoritmust használta, amelyet 2,6 millió képen képeztek ki, hogy 500 változó alapján hasonlítsa össze tesztalanyait. A modellt párban bemutatva fényképekkel – egy meleg és egy heteroszexuális személy – arra kérte, válassza ki, melyikük meleg.
Kosinski modellje legalább öt személyről készült fényképpel 91%-os pontossággal választotta ki a meleg személyt a párból. Ezzel szemben az embereknek csak az esetek 61%-ában volt igazuk.
A papír magyarázatot mutat – hormonális expozíció az anyaméhben valami valami. Kosinskit azonban megint nem igazán érdekli, hogy miért működik a modell. Számára az a fontos, hogy egy több ezer képre kiképzett számítógép pontos következtetéseket tudjon levonni olyan dolgokról, mint például a szexuális preferenciák, ha több láthatatlan részletet kombinál egy személyről.
Mások nem értettek egyet. Az arcokat és érzelmeket tanulmányozó kutatók mind a matematikáját, mind a következtetéseit kritizálták. A The Guardian Kosinskit a feladatra vette, hogy előadást tartson a híresen homofób Oroszországban végzett munkájáról. Az Economist kutatását ” rossz hírnek ” nevezte mindenkinek, akinek titkai vannak. A Human Rights Campaign és a GLAAD közleményt adott ki, amelyben elítélték a tanulmányt , figyelmeztetve, hogy brutális rezsimek felhasználhatják azt melegek üldözésére. „Stanfordnak el kellene határolódnia az ilyen ócska tudományoktól” – mondta az Emberi Jogi Tanács -, ahelyett, hogy nevét és hitelességét a veszélyesen hibás kutatásoknak kölcsönözné, és a világot – és ebben az esetben több millió ember életét – rosszabbul és kevésbé biztonságosan hagyná, mint korábban. „
Kosinski megvakult. „Az emberek azt mondták:” A stanfordi professzor arcfelismerő algoritmusokat fejlesztett ki egy gaydar felépítéséhez. De valójában nem is az arc megjelenése érdekel, hanem a magánélet, és az algoritmikus erő, amit mi, emberek nem tudunk megtenni. Nem akart szkennert építeni a jobboldaliak számára, hogy elvigyék az iskolaszéki ülésekre, mondja. Azt akarta, hogy a politikai döntéshozók tegyenek lépéseket, a melegek pedig készüljenek fel az eljövendő világra.
„Nem hoztunk létre egy adatvédelmi eszközt, hanem megmutattuk, hogy az alapvető és széles körben használt módszerek komoly adatvédelmi fenyegetést jelentenek” – írta Kosinski és társszerzője. „Reméljük, hogy eredményeink tájékoztatják a közvéleményt és a döntéshozókat, és arra ösztönzik őket, hogy olyan technológiákat tervezzenek és olyan irányelveket írjanak, amelyek csökkentik a homoszexuális közösségek kockázatait szerte a világon.”
Kosinski kitartott mellette. Ezúttal több mint egymillió fényképet kapart le a Facebookról és egy társkereső oldalról, valamint a profiljukban feltüntetett politikai hovatartozásról. A VGGFace2 – nyílt forráskódú, bárki számára elérhető, aki ilyesmit ki akar próbálni – segítségével ezeket az arcokat több ezer adatponttá konvertálta, és átlagolta a liberálisok és a konzervatívok adatait. Aztán megmutatott egy új algoritmust, több százezer pár képet a társkereső oldalról, és megkérte, hogy válassza el a MAGA szerelmeseit Bernie testvérektől. A gépnek az esetek 72%-ában sikerült . Az életkornak, nemnek és fajnak megfelelő párokban – a könnyű jeleket kiiktatva – a pontosság csökkent, de csak egy kicsit.
Ez nagy ijesztő ügynek tűnhet. A mesterséges intelligencia meg tudja állapítani, ha politikailag rossz a gondolkodásunk! Megzavarhatja a szexualitásunkat! De a legtöbb ember, aki az arcokat és a személyiséget tanulmányozza, azt gondolja, hogy Kosinski teljesen téved. „Egyáltalán nem vitatom azt a tényt, hogy meg lehet tervezni egy olyan algoritmust, amely a véletlennél sokkal jobban kitalálja, hogy egy személy meleg vagy hetero” – mondja Alexander Todorov, a Chicagói Egyetem pszichológusa. „De ez azért van, mert az összes képet maguk a felhasználók posztolták, így sok a zavar.” Más szóval Kosinski modellje nem vesz fel mikroszkopikusan finom jelzéseket a fényképekről. Ez csak felerősödik abban, ahogy a melegek bemutatkoznak a társkereső oldalakon – ami nem meglepő módon gyakran nagyon különbözik attól, ahogy a heterogén emberek bemutatják magukat a potenciális partnereknek. Ellenőrizd ezt a fotókon, és az algoritmikus gaydar pontossága kicsivel jobb a véletlennél.
Kosinski megpróbált válaszolni ezekre a kritikákra. Legutóbbi, a politikai hovatartozásról szóló tanulmányában saját fotókat készített tesztalanyokról, ahelyett, hogy az internetet kaparta volna a saját maga által közzétett fényképek után. Ez lehetővé tette számára, hogy több változót szabályozzon – kivágta a hátteret, megőrizte a frizuráját, és gondoskodott arról, hogy az emberek semleges arckifejezéssel közvetlenül a kamerába nézzenek. Aztán ezzel az új fotókészlettel ismét arra kérte az algoritmust, hogy válassza el a konzervatívokat a liberálisoktól.
Két figura egy színes technológiai modulokból készült ketrecbe zárva
Brian Stauffer a BI-nak
Ezúttal a gép töredékesen rosszabbul teljesített, mint az emberek abban, hogy pontosan előre jelezze valaki politikai hovatartozását. És ebben rejlik a probléma. Nemcsak arról van szó, hogy Kosinski központi megállapítása – miszerint a mesterséges intelligencia jobban tud olvasni az emberekről, mint az emberek – valószínűleg téves. Úgyis hajlamosak leszünk elhinni. A számítás, az elme helyett a gépben található matematika objektívnek és tévedhetetlennek tűnik – még akkor is, ha a számítógép csak a saját elfogultságainkat operacionalizálja.
Ez a hibás hiedelem nem csak a tudománynak az elmúlt három évszázadban az emberi lények mérésére irányuló téves és félelmetes kísérleteinek a középpontjában áll. Magának a tudománynak a középpontjában áll. A tudósok a statisztikákon keresztül tudják, hogy higgyék-e el, hogy olyan adatokat találtak, amelyek megerősítik a hipotézist. A modern statisztika úttörői – Francis Galton, Ronald Fisher és Karl Pearson – a 19. század végének és a 20. század elejének legkiválóbb eugenikusai és fiziognómusai közé tartoztak. Azt hitték, hogy a feketék vademberek, a zsidók egy ereszcsatorna, hogy csak a „megfelelő” típusú embereknek szabad megszülniük. Ahogyan Aubrey Clayton matematikus érvelt, szó szerint azért találták ki a statisztikai elemzést, hogy tárgyilagossá tegyék virulens faji előítéleteiket.
Az általuk kidolgozott módszerek és technikák ma is velünk vannak. Ők állnak az IQ-teszt és a főiskolai felvételi vizsgák, a rendőrség által végzett szüntelen faji profilalkotás mögött, és a rendszerek, amelyeket arra használnak, hogy az állásra jelentkezőket olyan dolgokra szűrjék, mint a „puha készségek” és a „növekedési gondolkodásmód”. Nem véletlen, hogy Hitler az eugenikusoktól vette a jelzéseket – beleértve az Egyesült Államok Legfelsőbb Bíróságának 1929-es hírhedt ítéletét, amely megerősítette a tudomány által „imbecilisnek” tartott nők kényszersterilizálását. Képzeld el, mit kezdene egy második Trump-kormány a mesterséges intelligencia által vezérelt arcfelismeréssel a határátkelőn – vagy valójában bárhol, azzal a céllal, hogy azonosítsa az „állam ellenségeit”. Az ilyen eszközök valójában már be vannak építve a lőszer-automatákba (talán az egyik legdisztopikusabb kifejezés, amit valaha begépeltem). Beépítik őket az Amerika déli határán alkalmazott számos technológiába is , amelyeket olyan startupok építenek, amelyeket ugyanazok a személyek alapítottak és finanszíroztak, akik támogatják a Trump-kampányt. Szerinted a rasszizmus most rendszerszerű? Csak várja meg, amíg a rendszer szó szerint be van programozva vele.
A különféle technológiák, amelyeket „mesterséges intelligenciának” neveztünk, alapvetően csak statisztikai motorok, amelyeket a mi elfogultságunkra képeztek ki. Kosinski úgy gondolja, hogy az AI azon képessége, hogy olyan személyiségi ítéleteket hozzon, amelyeket tanulmányozott, csak jobb lesz. „Végül egy olyan modellt fejlesztünk ki, amely olyan eredményeket produkál, mint az emberi elme” – mondja nekem. És ha a gép alaposan áttanulmányozta és úrrá lett a túlságosan emberi előítéleteinken, úgy véli, akkor képes lesz belelátni az elménkbe, és bármit felhasználni, amit ott talál, fel tudja hívni a lövéseket.
Kosinski rémálmában ez nem az lesz, hogy a Skynet feledésbe merül minket. A holnap kifinomult mesterséges intelligenciája olyan jól ismer minket, hogy nem lesz szüksége erőszakra – egyszerűen biztosítja a megfelelésünket azáltal, hogy pontosan megadja, amit akarunk. „Gondolj egy olyan modellre, aki elolvasta a bolygó összes könyvét, közelről ismer téged, tud veled beszélni, és nem csak te, hanem több milliárd ember is jutalmazza a vonzó interakciókért” – mondja. „Egy mesteri manipulátor lesz – egy mesteri szórakoztató rendszer.” Ettől tart Kosinski a jövőtől – még akkor is, ha továbbra is azokkal a modellekkel bütyköl, amelyek bizonyítják, hogy ez be fog következni.
