A rendszer szerzői joggal védett karaktereket generál erőszakos jelenetekben, valamint félrevezető képeket hírességekről és politikusokról
Elon Musk mesterséges intelligenciájának új képgeneráló képességei felháborodást váltottak ki az általa generált képek miatt.
Indítása óta Musk úr xAI-ja és Grok-rendszere kifejezetten ugyanazon szigorú irányelvek nélkül készült, amelyek korlátozzák a többi rendszert, például az OpenAI és a Google rendszereit . Míg Musk úr gyakran azt sugallta, hogy ez egy kísérlet a politikai beavatkozás elkerülésére, ez egyben azt is jelenti, hogy a szerzői joggal védett vagy potenciálisan veszélyes anyagokra nem vonatkoznak ugyanazok a korlátok.
Az xAI most kiadta a Grok új verzióját, amely képes képeket generálni. Úgy tűnik, hogy nincsenek értelmes korlátai annak, hogy mit tud generálni, még a tiltó szabályokat is könnyen felülírhatja egy ügyes felszólítás.
Ez azt jelenti, hogy a generátor fotorealisztikus képeket készít, amelyek félrevezetőek lehetnek, és olyan képeket, amelyek megsérthetik például a szerzői jogokat. A rendszer megjelenése után az X- en megosztott népszerű képeken például szerzői jogvédelem alatt álló karakterek szerepeltek erőszakos jelenetekben, vagy politikusok, akik olyan kampányokat támogatnak, amelyekkel nem értenek egyet, vagy akár terrortámadásokat is támogatnak.
E képek némelyike különösen zavaró volt grafikus jellegét tekintve. A széles körben elérhető képeken például Mickey egér látható fegyvert hordozón, vagy egy sor holttest körül.
A rendszert például fehérneműs hírességekről is fel lehetne használni. Az ilyen képességeket gyakran korlátozták más mesterséges intelligencia-eszközöknél, aggodalmak közepette, hogy hamis felnőttkori képek készítésére is felhasználhatók – bár ennek ellenére ez elterjedt.
X-et és Muskot erősen kritizálták a platform szerepéért a közelmúltban Nagy-Britanniában lezajlott zavargásokban, és hagyták, hogy a téves információk terjedjenek, ami a rendetlenség nagy részét kiváltotta, miközben Musk úr a szélsőjobboldali szereplőkkel kommunikált az oldalon és megismételte az „abszolút szólásszabadság”-ba vetett hitét.
Daniel Card, a BCS, a Chartered Institute for IT munkatársa szerint az X-ről szóló félretájékoztatás „társadalmi válságok” kialakulásához vezethet.
„Lehet, hogy a Groknak van némi korlátozása, de ez félretájékoztatást, szerzői jogi káoszt és nyíltan hamisítványokat készít” – mondta.
„Ez nem csak védelmi kérdés, hanem társadalmi válság is. Az információs hadviselés nagyobb fenyegetést jelent, mint a kibertámadások, beszivárognak mindennapi életünkbe és torzítják a globális felfogást.
„Ezek a kihívások merész, modern megoldásokat követelnek meg. Mire a szabályozók közbelépnek, a félretájékoztatás már milliókat elért, és olyan ütemben terjed, amire egyszerűen nem vagyunk felkészülve.
„Az Egyesült Államokban az olyan országokról, mint az Egyesült Királyság, torz vélemények terjednek, amelyeket a veszélyekről szóló eltúlzott jelentések táplálnak. Az AI-korszakban az igazság megtalálásának kritikus pontján állunk.
„Jelenlegi stratégiáink alulmaradnak. Ahogy belépünk a digitális-fizikai hibrid világba, ez a fenyegetés a társadalom legnagyobb kihívásává válhat. Cselekednünk kell most – a hatóságoknak, a kormányoknak és a technológiai vezetőknek fel kell lépniük.”
De úgy tűnt, Musk úr örült a chatbot frissítésének ellentmondásos természetének, és szerdán az X-nek posztolta: „Grok a legszórakoztatóbb mesterséges intelligencia a világon!”
Rámutatott a rendszer használatára vonatkozó tippek sokféleségére, amelyek bemutatták, hogyan lehet a rendszert felhasználni fotorealisztikus képek készítésére a hírekből.
