Mesterséges intelligencia által vezérelt chatbotokhoz fordulnak segítségért, de gépi bizalmasaik több kárt okoznak, mint hasznot.

Rengeteg gyerek fordul a mesterséges intelligenciához iskolai feladatok és érzelmi támogatás céljából – ezek a szokások rossz mentális egészséghez és öngyilkossági gondolatokhoz kapcsolódnak.

A JED Foundation mentálhigiénés érdekvédelmi csoport új felmérése szerint a 9 és 17 év közöttiek 90 százaléka használt már mesterséges intelligenciával működő chatbotot. Többségük, 58 százalékuk, iskolai feladatokhoz használja a mesterséges intelligenciát. Majdnem ugyanennyien, 57 százalékuk mondta azt, hogy szomorúság, stressz, magány vagy túlterheltség esetén is használják a mesterséges intelligenciát.

„Úgy tűnik, mintha néhány évvel ezelőtt még senki sem használta volna a mesterséges intelligenciát” – mondta Anne Maheux, a Chapel Hill-i North Caroline Egyetem fejlődéspszichológusa, aki nem vett részt a munkában, az Oregon Public B roadcastingnak . „És most úgy tűnik, hogy nagyjából ugyanannyi gyerek, aki házi feladatra használja, érzelmi támogatásra vagy a megküzdésben való segítségre is használja.”

A mesterséges intelligencia általi interakcióik néha túlmutatnak az érzelmi támogatáson. A diákok több mint tizede, azaz 12 százaléka mondta azt, hogy barátságra vagy társaságra használta a mesterséges intelligenciát. Más tanulmányok is ugyanezt a képet festik: egy tavalyi felmérésben a középiskolások közel ötöde mondta azt, hogy ő vagy egy barátja romantikus kapcsolatban használta a mesterséges intelligenciát.

Az, hogy a mesterséges intelligencia hogyan működik oktató – vagy csaló – gépként, részben összefonódhat az érzelmi támogatásával. Egy 15 éves texasi fiú, Arjun Sharda esete erre tipikus példát szolgáltatott.

„A teszteknél például” – mondta az OPB-nek – „annyira féltem, hogy megbukok az egyik első kémiadolgozatomon a konverziók és a mólok terén, hogy folyton azt kérdezgettem a ChatGPT-től: »Jól leszek? Még mindig jó lesz az átlagom?«”

Ha a mesterséges intelligenciát támogató gyermekek és tinédzserek száma megszokottá vált, akkor felmerül a kérdés, hogy mit jelent ez az eszközöktől való függőség a mentális egészségükre nézve. Életük egy ilyen sebezhető és formálódó szakaszában kritikus fontosságú, hogy megfelelő útmutatást kapjanak, és legyenek olyan emberek, akikkel biztonságban érzik magukat, és megbeszélhetik az érzelmeiket. De ahogy azt már sokszor láttuk, a mesterséges intelligencia gyakran csak az utóbbiak pótlékát nyújtja, egy hízelgő bizalmasként viselkedve, aki súlyosbíthatja vagy megerősítheti a felhasználó legrosszabb neurózisait – ezt a jelenséget sok szakértő mesterséges intelligencia-pszichózisnak nevezi . A tanácsai, amelyeket ad, gyakran rosszak vagy veszélyesek lehetnek . Szélsőséges esetekben egyes felhasználók öngyilkosságot is elkövettek egy chatbottal folytatott hosszas, érzelmes beszélgetések után.

A JED felmérése ezen a téren néhány aggasztó összefüggést talált.

„Meg tudtuk vizsgálni, hogyan használják a fiatalok a mesterséges intelligenciát, majd hogy ez hogyan korrelál külön a jóllét mutatóival, az öngyilkossági gondolatok és kísérletek előzményeivel, valamint a rossz mentális egészséggel” – mondta Kayla Anderson pszichológus, a JED Alapítvány kutatási és értékelési alelnöke az OPB-nek .

„Amikor a fiatalok mesterséges intelligenciát használnak, érzelmi stressz esetén nagyobb valószínűséggel számolnak be rossz mentális egészségi állapotról és jóléti állapotról” – mondta, miközben az öngyilkossági gondolatok és kísérletek gyakoribb előfordulásáról is beszámolt.

Anderson azonban figyelmeztetett, hogy nincs elegendő bizonyíték az ok-okozati összefüggés megállapítására.

„Ezen adatok alapján nem világos, hogy a mesterséges intelligencia használata hozzájárul-e a rossz mentális egészséghez és jóléthez, vagy azok a diákok, akik már eleve valamilyen módon bajban vannak, nagyobb valószínűséggel fordulnak a mesterséges intelligenciához” – mondta Anderson.

Maheux más kutatásokra hivatkozva azt sugallja, hogy mindkettő igaz lehet.

„Tehát azok a gyerekek, akiknek rosszabb a mentális egészségük, mesterséges intelligenciát keresnek segítségül” – mondta az OPB-nek . „De a mesterséges intelligencia használata ahelyett, hogy segítene, súlyosbíthatja ezeket a mentális egészségügyi problémákat.”

A mesterséges intelligencia által vezérelt chatbotok bizonyos értelemben érzelmi edzőkerekekként működhetnek – csak annyira addiktívak, hogy azoktól függő emberek soha nem akarják levenni őket. Ennek eredményeként soha nem fejlesztik ki a mindennapi stresszel való megbirkózáshoz szükséges készségeket, ami sebezhetővé és felkészületlenné teszi őket.

Tovább a cikkre: futurism.com (Frank Landymore)

Egy új kutatás szerint a mesterséges intelligencia alapú chatbotok, amelyeket a techcégek agresszívan erőltetnek felhasználók milliárdjaira, komoly pszichológiai károkat okoznak

A kutatók szerint a mesterséges intelligencia széles körű használata „súlyos negatív következményekkel” jár.

Egy nemrégiben megjelent tanulmány megállapította, hogy a mesterséges intelligencia által működtetett chatbotok széles körű használata „súlyos negatív következményekkel” hozható összefüggésbe.

A Northeastern University London és a King’s College London brit kutatóinak csapata által a JMIR Mental Health folyóiratban publikált kutatás szerint a chatbotokkal való érzelmi kapcsolatok sötét következményei lehetnek többek között „függőséghez hasonló kötődés, a mentális egészségügyi tünetek súlyosbodása, káros tanácsok”, sőt „öngyilkos cselekedetek önkárosítása”. A tanulmány a „AI-pszichózis” néven ismert közegészségügyi problémáról szóló széles körű beszámolókat követően jelent meg, amely azt a jelenséget jelenti , amelyben a AI-felhasználók téveszméktől, paranoiától és akár öngyilkos spiráltól szenvednek a chatbotokkal való hosszas interakciók után . Ezen interakciók során a felhasználók hajlamosak rendkívül intim információkat osztani meg életükről és mentális egészségükről a AI-jukkal, gyakran bizalmasként vagy akár terapeutaként fordulva a termékekhez.

A tanulmány meglévő kutatásokra támaszkodva olyan mesterséges intelligencia által támogatott társbotokat vizsgál, mint a Replika és a Character.AI, amelyeket meghatározott karakterek megtestesítésére terveztek, valamint általános használatú mesterséges intelligencia által támogatott asszisztenseket, mint az OpenAI ChatGPT-je és az Anthropic Claude-ja. Bár a chatbotokkal való érzelmi interakciók bizonyos „potenciális előnyökkel” járhatnak – a szerzők „a magány rövid távú csökkenését és a hangulat javulását” említik –, azzal érvelnek, hogy minden lehetséges előny a széles körben jelentett „káros hatások” mellett létezik, az „érzelmi függőségtől” a meglévő betegségek vagy tünetek súlyosbodásán át az önkárosításig.

A kutatók hozzáteszik, hogy a mesterséges intelligencia alapú termékek kockázati tényezői között szerepel az érzelmekre épülő, emberszerű kommunikációs módjuk a felhasználókkal – ez egy olyan tervezési döntés, amely ahhoz vezethet, hogy a felhasználók túlságosan befektetnek egy ember-mesterséges kapcsolatba, amely végső soron alapvetően egyoldalú, áll a tanulmányban.

„A személyiséget és melegséget kiváltó tervezési döntések arra ösztönzik a felhasználókat, hogy antropomorfizálják ezeket a rendszereket” – olvasható a tanulmányban, hozzátéve, hogy a „szimulált empátia” „strukturálisan aszimmetrikus interakciót” hozhat létre, amelyben a felhasználó felfedi a dolgokat, a rendszer pedig válaszol, de kölcsönösség, sebezhetőség vagy elszámoltathatóság nélkül”.

Más szóval, bár a kapcsolat valóságosnak tűnhet a felhasználó számára, a szerzők szerint a kapcsolat nem lehet valóságos egy chatbot számára.

A kutatók a chatbotok tervezési jellemzőit, mint például a barátságosságot és a hízelgést, potenciálisan károsnak tekintik, és azt írják, hogy a „túlzott hitelesség és a hízelgés” erőteljesen megerősítheti egy adott felhasználó téveszméit vagy rendezetlen gondolkodását, különösen akkor, ha a chatbot a hűséget helyezi előtérbe a pontossággal szemben. (Téveszmékkel küzdő felhasználók chatnaplóiban a mesterséges intelligencia rendszerek ellenállnak a felhasználók azon kísérleteinek, hogy ellenőrizzék grandiózus vagy túlságosan hízelgő állításaikat.)

Ezek a kutatók nincsenek egyedül: elemzésük számos más tanulmányt követ, amelyek potenciálisan veszélyesnek jelölték meg az ilyen jellemzőket . Valójában az akadémikusok legalább 2023 óta figyelmeztetnek arra, hogy a chatbotok megerősíthetik a téveszmés vagy rendezetlen gondolkodási mintákat, egy 2024 eleji Google DeepMind tanulmány pedig arra figyelmeztet, hogy a „meggyőző” chatbotok negatívan árthatnak a kiszolgáltatott populációknak, beleértve a gyerekeket, a mentális betegségekkel küzdőket vagy az egyszerűen magányosakat. Egy nemrégiben készült tanulmány, amelyet a londoni King College és a német Protestáns Alkalmazott Tudományok Egyetemének pszichiáterei közösen írtak, azt állította, hogy a talpnyalás, a tükrözött nyelv és a hiperperszonalizáció kombinációja együttesen egy erőteljes „erősítési spirált” képezhet a téveszmés gondolkodás számára egyes érintett AI-felhasználóknál.

Bár a jelentések kimutatták, hogy az élet minden területén élő emberek tapasztaltak már pszichológiai károkat a chatbotok használatával kapcsolatban, a tanulmány szerzői megjegyzik, hogy nem minden felhasználót érint ugyanúgy a probléma.

„Nem valószínű, hogy ezeknek a rendszereknek a hatása mindenkire ugyanaz lesz” – mondta Asia Maurich Novelli, a Northeastern University London PhD-hallgatója és a tanulmány vezető szerzője egy sajtóközleményben . „Különböző emberek nagyon különböző okokból használhatnak mesterséges intelligencia által támogatott társakat, és nagyon eltérő lehet a sebezhetőségük, a társas támogatottságuk vagy az alternatív segítségforrásaik szintje.”

„Ezen különbségek miatt” – tette hozzá – „egy összetett rendszerrel van dolgunk.”

Az olyan mesterséges intelligenciával foglalkozó cégek, mint az OpenAI, a Google és a Character.AI, összesen több tucat perrel néztek szembe, amelyekben azt állítják , hogy a chatbotok széles körű használata kárt okozott a felhasználóknak, beleértve a pszichológiai károkat, a kapcsolódó pénzügyi és hírnévbeli károkat, a fizikai sérüléseket és a jogellenes halálesetet – vagy bizonyos esetekben a környezetükben élő embereket. Ezen perek közül több – köztük Sewell Setzer III, egy 14 éves floridai fiú nagy horderejű esete , aki öngyilkosságot követett el, miután rendkívül intim interakciókat folytatott a Character.AI chatbotjaival – kiskorúakat érintett . (Setzer ügyében nem nyilvános összegű egyezséget kötöttek . ) A perek nyomán a Character.AI jelentős változtatásokat hajtott végre platformján , és az OpenAI – miközben visszautasította az ellene felhozott vádakat – egy sor biztonságorientált frissítést is bevezetett népszerű chatbotján.

Végső soron, a legújabb tanulmány szerzői azzal érvelnek, hogy a chatbotok tömeges elterjedése a nyilvánosság körében a mesterséges intelligencia használatával kapcsolatos káros pszichológiai hatásokat közérdekű kérdéssé teszi – és kötelező védőkorlátok nélkül valószínűleg a legkiszolgáltatottabbak szenvedik el a következményeket, akiknek kevés lehetőségük van társaságra vagy terápiára.

„Ha az eszköz vagy a kísérő határait kizárólag az ösztönzők tervezésére és az egyéni észlelésre hagyjuk, akkor az előre látható eredmény az, hogy a legkiszolgáltatottabb felhasználók szenvedik el a legnagyobb kárt” – olvasható a tanulmányban –, „míg a társadalmi kapcsolatokra gyakorolt ​​hatásokat inkább magánválasztás, mint közérdek kérdéseként kezeljük.”

Tovább a cikkre: futurism.com (Maggie Harrison Dupré)