Elemzés az ajánlóalgoritmusok működéséről, társadalmi-gazdasági-biztonsági kockázatairól és a szabályozási válaszlépésekről

A digitális információs társadalom fejlődése alapjaiban kérdőjelezi meg a gazdasági növekedésről, a munkahelyi produktivitásról és a demokratikus stabilitásról alkotott korábbi feltevéseinket. Az információs bőség korában a legszűkösebb és legértékesebb gazdasági erőforrás az emberi figyelem, a kognitív kapacitás és a döntési képesség.

A globális technológiai platformok, a Meta, Alphabet, ByteDance/TikTok, olyan üzleti modellt alakítottak ki, amely a felhasználói figyelem és az érzelmi bevonódás korlátlan monetizálására rendezkedett be. A tartalomelosztást vezérlő ajánlóalgoritmusok a korai ismerősi hírfolyamokból valós idejű, mélytanulásos mesterségesintelligencia-rendszerekké fejlődtek. A rendszerek nem a felhasználók hiteles tájékoztatását vagy szellemi jólétét szolgálják, hanem az emberi agy evolúciós és neurobiológiai sebezhetőségeinek, a negativitási torzításnak, a változó arányú dopamin jutalmazásnak és a morális felháborodásnak a folyamatos kiaknázására vannak kalibrálva.

A döntéshozók számára a figyelemgazdaság működése immár nem pusztán egyéni jóléti vagy mentálhigiénés kérdés, hanem közvetlen stratégiai, gazdasági és biztonsági kockázat:

• Makrogazdasági szinten: A francia Pénzügyminisztérium (Direction Générale du Trésor) hatástanulmánya kimutatta, hogy a képernyőfüggőség, a figyelem szétesése és a mentális degradáció hosszú távon, 2060-ig 1,4–2,9 százalékpontos GDP-veszteséget okozhat a társadalmi termelékenység és a humántőke minőségének romlásán keresztül.

• Közéleti és demokratikus szinten: A pszichometriai profilalkotás (OCEAN-modell) és az algoritmikusan felerősített felháborodás szétzilálja a társadalom közös tényalapját, ami ellehetetleníti a konszenzusos politikai döntéshozatalt és radikalizálja a közéletet.

• Kiberbiztonsági és védelmi szinten: A kényszeres tartalomfogyasztás (doomscrolling) által kiváltott kognitív telítettség és döntési kimerültség lebontja a kritikai ellenállást, kiszolgáltatva a szervezeteket és intézményeket a célzott adathalászatnak és az államilag irányított dezinformációs műveleteknek.

• Jogi és szabályozási szinten: Az Egyesült Államok bíróságain áttörték a platformok korábbi jogi immunitását, és terméktervezési hiba alapon történelmi, több mint 17 milliárd dolláros kártérítési egyezségeket kényszerítettek ki. Ezzel párhuzamosan az Európai Unió a Digitális Szolgáltatásokról Szóló Rendelettel (DSA) és az AI Acttel kötelezővé tette az algoritmus-auditokat és a profilalkotás-mentes hírfolyamok biztosítását.

A figyelemgazdaság elméleti modellje és piaci működése

Az új szűkösség: Az információ bősége és az elme határai

Az emberiség történelmének döntő hányadában az információ szűkös, nehezen volt hozzáférhető, miközben az emberi feldolgozókapacitás viszonylag bőségesen állt rendelkezésre. A digitális információs technológiák és az internet elterjedése ezt a viszonyt gyökeresen megfordította.

Herbert A. Simon Nobel-díjas közgazdász már 1971-ben leírta az alaptézist, miszerint az információ bősége szükségszerűen a figyelem szűkösségét hozza létre. Mivel az információ a befogadója figyelmét fogyasztja el, a túlzott információs kínálat a humán figyelem elszegényedéséhez vezet. Simon rámutatott: a digitális kor legfőbb kihívása nem az új tartalmak előállítása, hanem a befogadás hatékony és értelmes szűrése.

Michael H. Goldhaber 1997-ben ezt gazdaságelméleti szintre emelte azzal, hogy kijelentette, a digitális gazdaságban a figyelem közvetlen fizetőeszközzé válik. A felhasználók a valóságban nem ingyenes szolgáltatásokat vesznek igénybe, hanem az idejükkel, mentális energiájukkal és személyes adataikkal fizetnek a hozzáférésért.

A digitális figyelempiac fejlődésének korszakai

A megfigyelési és limbikus kapitalizmus logikája

A működési mechanizmusok leírására a modern közgazdaságtan és szociológia két kulcsfogalmat vezetett be:

• Megfigyelési kapitalizmus: A platformok a felhasználók digitális tevékenysége során keletkező adatokat ingyenes nyersanyagként gyűjtik be. Ezekből viselkedési előrejelzési modelleket építenek, amelyeket a hirdetőknek értékesítenek.

• Limbikus kapitalizmus: A felületek nem az emberi agy racionális döntéshozó központját célozzák, hanem a törzsfejlődéstanilag ősibb, érzelmi és dopaminerg rendszereket, a limbikus rendszert. Az ösztönös, érzelmileg felfokozott reakciók lényegesen hosszabb képernyőidőt biztosítanak, mint a megfontolt, tudatos tartalomfogyasztás.

Mivel a piaci verseny behatárolja a hirdetési árakat és a konverziós hatékonyságot, a platformok belső növekedésének egyetlen közvetlen hajtóereje a megszerzett figyelem és az interakciós sűrűség határok nélküli fokozása.

A nullás ár versenypiaci torzulása

A digitális hirdetési piac koncentrációja rendkívüli, amiben az Alphabet és a Meta birtokolja a globális digitális reklámköltések jelentős hányadát. A hagyományos versenyjogi szabályozás évtizedeken át tehetetlen volt ezzel a modellel szemben, mivel a fogyasztóvédelmi vizsgálatok az áralapú monopólium-mérésre támaszkodtak. Mivel a szolgáltatásokért a felhasználónak nem kellett közvetlenül pénzt fizetnie, a szabályozók nem érzékelték a felmerülő strukturális torzulásokat.

A platformok így a gondolkodás monopóliumaivá váltak, privatizálták a digitális figyelemből származó profitot, miközben a rendszerszintű károkat, a társadalmi kohézió szétesését, kognitív visszaesést, mentálhigiénés válságokat teljes egészében áthárították a nemzetgazdaságokra.

Az ajánlóalgoritmusok technológiai motorja

Az ajánlórendszerek a digitális tér láthatatlan szerkesztőivé váltak. Fejlődésük négy technológiai fázison keresztül jutott el a mai valós idejű manipulációs képességekig.

Első generáció: Heurisztikus és kronológiai szűrés – EdgeRank
A korai közösségi hálózatok (Facebook 2007–2010) szigorú fordított időrendi sorrendben mutatták az ismerősök bejegyzéseit. A tartalomfolyamban megjelenő elemek rangsorolását egy lineáris heurisztika végezte, a felhasználói affinitás, azaz a kapcsolati szorosság, a tartalomtípus súlya, miszerint a képek előnyben részesülnek a sima szöveggel szemben, és az időbeli elévülési faktor határozta meg a láthatóságot. Ez a modell még statikus volt és kizárólag a közvetlen ismerősi hálózatra támaszkodott.

Második generáció: Mélytanulás és megtekintési idő – YouTube Covington-modell
A nagyskálás ajánlórendszerek technológiai mérföldkövét a Google Brain kutatói fektették le 2016-ban, a YouTube kétszintű mély neurális hálózati architektúrájának publikálásával:

• Jelöltgenerálás: A több millió videóból álló korpuszt néhány száz releváns elemre szűkíti a felhasználó előzményeinek beágyazási vektorai és mintavételezési eljárás segítségével.

• Sorrendbe állítás: A kiválasztott elemeket finomhangolt mélyhálózat értékeli ki.

A rendszer legfontosabb döntése az volt, hogy a kattintási arány helyett a várható megtekintési idő maximalizálására állt át. A kizárólag kattintásra hajtó modellek ugyanis túlzottan elterjesztették a kattintásvadász tartalmakat. A megtekintési idő preferálása azonban az egyre hosszabb, dramatizált, konspiratív vagy felkavaró videók térnyeréséhez vezetett, mivel ezek tartották a legmélyebben bevonva a nézőt.

Harmadik generáció: Érzelmi interakciók és a düh súlyozása – Meta MSI

A Meta 2018-ban vezette be a Meaningful Social Interactions (MSI) rangsorolást azzal a deklarált céllal, hogy a passzív fogyasztás helyett a barátok és családtagok közötti interakciókat helyezze előtérbe. A rendszer az egyszerű kedveléseknél ötször nagyobb súlyt adott a hozzászólásoknak, megosztásoknak és az érzelmi reakció-emojiknak – különösen a Dühös emojinak.

A kiszivárgott belső dokumentumok bizonyították, hogy a Meta saját kutatói figyelmeztették a vezetést: a dühös reakciók ötszörös súlyozása szisztematikusan felülreprezentálja a félretájékoztatást, az erőszakos híreket és a politikai szélsőségeket. Ennek ellenére a felsővezetés évekig nem változtatott a beállításokon a látogatottság- és aktivitáscsökkenéstől való félelem miatt.

Negyedik generáció: Valós idejű streaming és érdeklődési hálózat – TikTok Monolith
A ByteDance által kifejlesztett Monolith és a modern kéttornyú mélytanulási modellek alapvető áttörést hoztak:

• Érdeklődési hálózat: Nem az ismerősök posztjait, hanem a tiszta viselkedési mintázatokat helyezi előtérbe.

• Kéttornyú felépítés: A felhasználói torony a néző valós idejű reakcióit képezi le vektorokká, míg az elemtorony a videók vizuális és akusztikus jegyeit kódolja egy közös matematikai térbe.

• Milliszekundumos adaptáció: A Monolith ütközésmentes beágyazási táblákat és streaming adatcsatornákat használ. Ha a felhasználó egy videónál akár 200 milliszekundummal lassítja a görgetést, a modell azonnal átkalibrálja az érdeklődési profilt, és a következő görgetésnél már az új inger jelenik meg.

Pszichológiai sebezhetőségek és a doomscrolling

Az algoritmusok kiemelkedő elköteleződési mutatói mögött az emberi agy evolúciós és biológiai korlátainak célzott kihasználása áll.

A nyerőgép-mechanizmus – Változó arányú megerősítés
A platformok felületei szándékosan alkalmazzák a végtelen görgetést és a lehúzással frissítést, amik pontosan a játékgépek pszichológiáját képezik le.

A felületek változó arányú megerősítést használnak, amiben a felhasználó sosem tudja előre, hogy a következő képernyő unalmas posztot, fontos információt vagy euforikus ingert hoz-e. A neurobiológiai kutatások igazolják, hogy a dopamin felszabadulása nem a jutalom átvételekor, hanem a jutalom várható valószínűségének csúcsán, a bizonytalanság állapotában a legerősebb, ami kényszeres cselekvésre ösztönzi az egyént.

A doomscrolling és az evolúciós sebezhetőség

A negatív hírek kényszeres fogyasztása, a doomscrolling, a bizonytalansággal való megküzdési mechanizmusként indul. Válsághelyzetekben, járványok, háborúk, gazdasági megrázkódtatások idején, az emberi agy evolúciós túlélési reflexe, a negativitási torzítás felerősödik, mivel a veszélyek elkerülése érdekében kiemelt figyelmet szentelünk a fenyegető információknak.

Az algoritmusok felismerik, hogy a vészterhes tartalmak hosszabb megtekintési időt és több reakciót generálnak, így még több negatív ingert táplálnak be a hírfolyamba. Az információkeresés így nem megnyugváshoz vezet, hanem növeli a szorongást, ami újabb információkeresést vált ki. Ez az öngerjesztő kognitív hurok klinikai depressziót, alvászavarokat, krónikus nyak- és hátfájást és döntési kimerültséget eredményez.

Erkölcsi fertőzés és a MAD-modell

William Brady és munkatársai kutatásai rávilágítottak az erkölcsi-érzelmi fertőzés jelenségére a közösségi hálózatokban a MAD-modell (Motivation, Attention, Design) segítségével:

• Motiváció: Az egyének csoportidentitásuk megerősítése és reputációjuk növelése érdekében osztanak meg morálisan terhelt tartalmakat. A külső csoportokkal szembeni megvetés kifejezése kiemelkedő elköteleződést generál.

• Figyelem: Az erkölcsi-érzelmi kifejezések megragadják a korlátozott kognitív kapacitást. Minden egyes hozzáadott erkölcsi-érzelmi szó (szégyen, gonosz, felháborító) 13–24%-kal növeli az adott bejegyzés továbbosztási arányát.

• Tervezés: A platformok felületei a virtuális megerősítésekkel (lájkok, megosztások) jutalmazzák a morális felháborodást, arra kondicionálva a felhasználót, hogy a nyilvános düh társadalmilag kifizetődő viselkedés.

Stratégiai és intézményi kockázatok

A figyelemgazdaság működése messze túlmutat az egyéni szférán; közvetlen nemzetbiztonsági, makrogazdasági és államigazgatási kockázatokat teremt.

Demokratikus közszféra és pszichometriai mikrocélzás

A Cambridge Analytica és az azt követő műveletek megmutatták, miként lehet a Big Five (OCEAN: nyitottság, lelkiismeretesség, extroverzió, barátságosság, neuroticizmus) személyiségmodellt a digitális lábnyomokhoz illeszteni:

• A magas szorongásra hajlamos (magas neuroticizmusú) szavazók félelemkeltő és fenyegetésalapú hirdetéseket kaptak, míg a rendpártiak a hagyományokat hangsúlyozó üzeneteket.

• A közös valóság megszűnése: Amikor a választópolgárok az algoritmusok miatt egymást kizáró információs valóságokban élnek, megszűnik a közös tényalap, ami a társadalmi kompromisszumkötés és a demokratikus párbeszéd megbénulásához vezet.

Kiberbiztonság és kognitív hadviselés

A támadási formák célpontja ma már nem pusztán az informatikai infrastruktúra, hanem az emberi észlelés és döntéshozatal:

• Döntési kimerültség: A folyamatos ingertelítettség és a doomscrolling lebontja a kritikai gondolkodási kapacitást. A kimerült munkatársak nagyságrendekkel nagyobb eséllyel válnak a célzott adathalászat és a szociális manipuláció áldozatává.

• Állami szintű befolyásolás: A felháborodást felerősítő ajánlómotorok kész terepet biztosítanak a külföldi állami dezinformációs műveletek számára a társadalmi kohézió felbontására és az intézményekbe vetett bizalom aláásására.

Makrogazdasági és termelékenységi veszteség

A humántőke kognitív kapacitásának romlása mérhető gazdasági kárt okoz. A francia Pénzügyminisztérium hatástanulmánya szerint a képernyőidő-függőségből fakadó figyelemzavar és mentális degradáció hosszú távon, 2060-ig 1,4–2,9 százalékpontos GDP-veszteséget jelenthet, miközben az egészségügyi rendszerekre jelentős többletteher hárul a mentális ellátás finanszírozása miatt.

Globális jogi és szabályozási fordulat
A 2024–2026-os időszak vízválasztónak bizonyult: a bíróságok és a jogalkotók megszüntették a Big Tech platformok korábbi jogi érinthetetlenségét.

A Section 230 jogi áttörése

Az Egyesült Államokban a technológiai cégek évtizedekig a Communications Decency Act 230-as cikkelye mögé bújtak, amely kimondta, hogy a platformok nem tehetők felelőssé a harmadik felek által közzétett tartalmakért. Az új bírósági gyakorlat azonban rámutatott: a perek tárgya nem a közzétett tartalom, hanem maguk a függőséget kiváltó mérnöki funkciók, a végtelen görgetés, az automatikus lejátszás, a manipulatív értesítések. Ezáltal a tech cégek a hagyományos termékfelelősségi jog hatálya alá kerültek, akárcsak korábban a dohánygyárak.

Mit tehetünk?

A döntéshozók feladata a passzív kármentés helyett a digitális védelem és intézményi ellenállóképesség kialakítása három egymásra épülő pillér mentén.

Szabályozói és közpolitikai szint

• Alapértelmezett védelem: Törvényileg kell előírni, hogy a kiskorúak számára az addiktív funkciók alapértelmezetten ki legyenek kapcsolva.

• Proszociális technológiák ösztönzése: Támogatni kell az olyan konszenzus-orientált megoldásokat, mint a közösségi minősítés vagy a híd-algoritmusok, amelyek nem a felháborodás szítására, hanem a különböző véleménycsoportok közötti közös pontok megtalálására optimalizálnak.

• Független algoritmus-auditok: Biztosítani kell a független kutatók és hatóságok (NMHH, Európai Bizottság) közvetlen hozzáférését az ajánlómotorok viselkedési és rangsorolási adataihoz.

Oktatási és ifjúságvédelmi szint

• Eszközmentes tanulási környezet: Állami programokkal kell megvalósítani az iskolai telefonmentes környezetet, megszüntetve a tanítási idő alatti folyamatos értesítési készenlétet.

• Kognitív higiénia a tantervben: A médiaismeret tantervét ki kell egészíteni, mivel a forráskritikán túl a diákoknak meg kell érteniük a dopamin-visszacsatolási hurkok és a figyelemgazdaság üzleti modelljének működését.

Szervezeti és vállalati szint, közigazgatás és versenyszféra

• Kognitív fáradtság kezelése a biztonságpolitikában: A szervezeti kiberbiztonsági tréningekbe be kell építeni a döntési kimerültség és az érzelmi manipuláció elleni védekezést.

• Többlépcsős döntési folyamatok: A kiemelt pénzügyi tranzakciók vagy jogosultság-módosítások esetén kötelező késleltetési ablakokat és négy-szem elvű ellenőrzéseket kell bevezetni az érzelmileg manipulált, azonnali döntések kiküszöbölésére.

• Koncentrált munkasávok: A digitális túlterheltség csökkentésére a szervezeti kultúrában be kell vezetni az értesítésmentes, fókuszált munkablokkokat.

A figyelemgazdaság jelenlegi formájában fenntarthatatlan társadalmi és gazdasági költségeket termel. A technológiai fejlődés nem állítható meg, de a szabályozási környezet újradefiniálható.

A döntéshozók stratégiai feladata egy olyan digitális ökoszisztéma megteremtése, amely az emberi kognitív méltóságot, a társadalmi kohéziót és az átlátható elszámoltathatóságot helyezi előtérbe.

Tovább a cikkre: cyberthreat.report (Frész Ferenc)

Kapcsolódó podcast videó: