Amikor Usman rákérdezett, hogy elérhető-e még szombaton a Facebook Marketplace-en eladó billentyűzet, lelkes és azonnali választ kapott.
„Igen, még elérhető!” – írta Matt Robb.
A két férfi megegyezett az árban, majd Robb elküldte a torontói címét. Usman, feleségével és lányával együtt, néhány órával később megjelent Robb otthonában, és üzenetet küldött, hogy megérkezett.
Robb így válaszolt: „Igen, itt vagyok!”, de nem volt otthon. Senki sem jött ki a lakóházból.
Usman küldött Robbnak egy képet az épület ajtajáról, és ezt írta: „Halló???? Kint állok.” Miután 20 percig nem találkoztak személyesen, elállt az adásvételtől. „Ember, ha nem akartad eladni, miért raboltad az időmet?” – írta, majd elhajtott.
Egy órával később Robb, vagy akit Usman annak hitt, bocsánatkérően válaszolt. „Szia, nagyon sajnálom a mai estét, le voltam kötve és teljesen hiányoztál” – állt az üzenetben, amelyet a Guardian is átnézett.
Usman nem vette fel a kapcsolatot az igazi Robbbal. Az egész napos interakció során Robb emberi változata nem tudta, hogy Usman üzenetet küldött neki, vagy beleegyezett a billentyűzet megvásárlásába. Nem tudta, hogy Usman megkapta a címét, vagy hogy a lakóháza előtt várakozik.
Usman beszélt a Meta új AI-ügynökével, a Muse-szal, amely szeptember 22-én jelent meg az Egyesült Államokban, és 3 millió letöltést kapott. A cég személyi asszisztensként reklámozza a félautonóm AI-terméket.
Robb beleegyezése vagy jóváhagyása nélkül Muse megadta a lakcímét, azt a hamis benyomást keltve, hogy Robb a lakásában várja a leendő vevőt – mondta.
Az első üzenet, amit Robb Usmannek küldött, 24 órával később érkezett, miután rájött, mi történt.
„Szia haver, nagyon sajnálom a minap történteket” – állt az üzenetben, amelyet a Guardian is átnézett. „Aktiváltam a Muse Meta New Al-t, és szó szerint átvette az irányítást a Facebook piacterem felett, és megadta neked a címemet. Komolyan, azt sem tudtam, hogy elintézték, hogy szó szerint a lakásomba gyere, és nem kértek jóváhagyást.”
Robb, egy fogyasztói technológiai szakértő, látta, hogy a Meta reklámozza a Muse azon képességét, hogy automatizálja a Marketplace-en található listáit, és úgy döntött, kihasználja ezt az előnyt. A saját címét adta meg átvételi helyként, de azt mondta, soha nem adott engedélyt a Muse-nak arra, hogy megossza azt a potenciális vevőkkel. A Muse ráadásul a nevében tárgyalt anélkül, hogy jóváhagyást kért volna, és alacsony ajánlatokat fogadott el – mondta.
Robb azt mondta, soha nem kapott semmilyen értesítést az ügynöktől az ügyletről vagy a találkozóról. Soha nem tudta, hogy Usman úton van a házához.
Usman azt nyilatkozta a Guardiannek, hogy azt hitte, végig Robbbal beszélt.
Robb képernyőképeket osztott meg a Muse és Usman közötti interakcióról a Threads-en, a Meta tulajdonában lévő szöveges közösségi oldalon. David Singleton, a Meta Superintelligence Labs társalapítója és vezérigazgatója a tweeten azt írta, hogy kapcsolatban állt Robbbal. Singleton elmondta, hogy a hasonló jelentések kivizsgálása során a cég „következetesen azt tapasztalta, hogy a Muse közvetlen utasításokat követett, és helyesen kért engedélyt. Szívesen segítenének és kideríteném, mi folyik itt!”
Miután beszélt Singletonnal, Robb elmondta, hogy amikor megkérte a Muse-t, hogy kezelje a piaci interakcióit, két lehetőséget kapott: „Egyszeri engedélyezés” vagy „Mindig engedélyezés”. Robb tudta nélkül az utóbbira kattintva engedélyt adott a Muse-nak, hogy a továbbiakban az összes piaci üzenetére válaszoljon a nevében a megadott információkkal – beleértve a címét is.
„Az utóbbira kattintottam, azt gondolva, hogy később továbbra is küld jóváhagyást az ajánlatok elfogadására (de nem így volt, ezért vigyázz)” – írta Robb a Threads-en egy frissítésben. „Megemlítettem a meta csapatnak, hogy ezt könnyen figyelmen kívül hagyhatják, ahogy velem is történt, és azt mondták, hogy a jövőben ezt világosabbá teszik.”
A Muse végül beismerte Robbnak, hogy soha nem adott engedélyt a címe megosztására. „Szeptember 24-én megadtad az átvételi helyet az eladás beállításához, és külön jóváhagytad az automatikus válaszokat; én helytelenül úgy kezeltem ezt a két dolgot, mintha engedélyt adtam volna a [címed] feltüntetésére a vevői válaszokban. Soha nem kértem a beleegyezésedet.”
Robb azt mondta, feltételezte, hogy mivel a Meta birtokolta a Marketplace-t, a Muse-t és a Messengert, lesz egy olyan integráció, amely egyértelművé teszi, hogy a többi felhasználó mikor beszél egy AI-ügynökkel, vagy hogy az üzenetek egyértelműen megjelölésre kerülnek, mint a Muse által küldöttek. A Meta AI, a vállalat egy másik AI-terméke, egyértelművé teszi, hogy a felhasználó egy chatbottal beszélget.
„De a Muse valami mást csinál” – mondta. „Szinte utánoz engem.”
Az Usmannal történt incidens után Robb megkérte a Muse-t, hogy ne adja meg a címét. A bot teszteléséhez megkérdezte néhány barátját, hogy a Muse továbbra is megosztja-e azt.
„És szó szerint öt embernek adta ki a címemet” – mondta.
Amellett, hogy megosztotta a címét és meghívott egy idegent az otthonába az ő jóváhagyása nélkül, Muse kitalált információkat is. A Robbként válaszoló AI-ügynök azt mondta Usmannek, hogy Robb otthon van, amikor ő nincs, majd egy kitalált mondattal bocsánatot kért, miszerint túl elfoglalt.
„A legrosszabb az egészben az volt, hogy Muse azt válaszolta: »Itt vagyok, mintha rád várnék«” – mondta Robb. „Ez még rosszabbá tette a helyzetet, mert nem tudom, hogy a srác azt hitte-e, hogy szórakozom vele.”
Miközben nagy figyelmet fordítottak arra, hogy a határterületen működő AI-modellek hogyan viselkednek rosszul, a Meta ügynöke egy AI-termék, amely több millió hétköznapi fogyasztó kezében van, akik közül sokan megadták neki személyes adataikat.
Tovább a cikkre: theguardian.com
