A mesterséges intelligencia egyik leghasznosabb felhasználási módja az, hogy olyan tudományos adattömegeken keresztül böngésszen , amelyeket az emberi kutatóknak nincs idejük elemezni, és mintákat keressen – de ez a felhasználási eset most problémásnak bizonyul, amikor a bolygónkon kívüli élet kereséséről van szó.
A Michigani Állami Egyetem kutatóinak új tanulmánya szerint a mesterséges intelligencia rendszereit túl könnyen be lehet csapni, hogy olyan életjeleket azonosítsanak az univerzumban, ahol nincsenek. Szükségünk van ezekre a jelzőkre, hogy tudjuk, hová irányítsuk a távcsöveinket legközelebb, ezért fontos, hogy a detektálási folyamatok működjenek.
A kutatók egy digitális szimulációt állítottak be, amely az élet egyik kulcsfontosságú jelét vizsgálta: a molekulák replikációs és mutációs képességét. Szoftver segítségével több tízezer digitális élőlényt generáltak, amelyek rendelkeztek ezzel a képességgel, illetve nem rendelkeztek ezzel a képességgel, majd ezeket egy neurális hálózat segítségével 99,7%-os pontossággal észlelték a különbséget.
Amikor azonban a neurális hálózatot olyan adatok felé irányították, amelyeket korábban nem látott, a mesterséges intelligencia élet-észlelő képessége felmondta a szolgálatot. A kutatók egy önmagát másolni nem tudó digitális organizmussal kezdték, amelyet a mesterséges intelligencia helyesen azonosított, majd apró módosításokat végeztek rajta, és megkérték a mesterséges intelligenciát, hogy ellenőrizze újra.
Lényegében, ahogy a mesterséges intelligenciát kizökkentették a betanítási adatokkal teli komfortzónájából, elkezdett életet látni ott, ahol nem volt. „Nem számított, milyen parancssorozattal kezdtük, az esetek 100%-ában képesek voltunk becsapni a mesterséges intelligenciát” – mondta Ankit Gupta, az egyik kutató.
Űr és azon túl
Érdemes szem előtt tartani a kutatás korlátait: ezeket a teszteket mesterséges, digitális szimulációban végezték, így nem támaszkodtak valós adatokra. A kutatók szándékosan keresték a hibákat is, ahelyett, hogy hagyták volna, hogy véletlenül történjenek.
A vizsgálati módszerek azonban elég megalapozottak ahhoz, hogy aggodalomra adjanak okot. Az aggodalom az, hogy egy Mars-járó vagy egy mélyűr-távcső nagy fokú bizonyossággal képes lenne azonosítani egy életjelenséget anélkül, hogy feltétlenül emberre lenne szükség az ellenőrzéshez.
A kutatók azt találták, hogy rengeteg olyan szekvencia létezik, amely a mesterséges intelligenciát is megzavarhatja, ami azt jelenti, hogy a hibalehetőség valószínűbb. Bár a neurális hálózat által helytelenül azonosított digitális élőlények közel álltak ahhoz, amire betanították, mégsem voltak teljes egyezések – annak ellenére, hogy a mesterséges intelligencia azt gondolta.
Ezek a problémák az űrkutatáson kívül is felmerülhetnek. Ugyanezek a hibák jelentkezhetnek orvosi vizsgálatok, biztonsági kamerák felvételei és minden más területen, ahol a technológiát használják, mintázatok keresésekor.
Ennek ellenére a kutatók hangsúlyozni szeretnék, hogy a mesterséges intelligencia továbbra is hasznos lehet ezekben a forgatókönyvekben – csak gondos ellenőrzésre és felügyeletre van szükség. „A mesterséges intelligenciának van egy Achilles-sarka: képes mintákat látni, és teljesen félreosztályozni azokat” – mondta Christoph Adami, a csapat egyik tagja. „Embernek is részt kell vennie a folyamatban.”
Tovább a cikkre: techradar.com (David Nield)
