A legnépszerűbb tíz chatbot ellenőrzésekor megállapították, hogy ezek az AI-eszközök gyakran hamis narratívákat ismételgetnek, melyek az orosz államhoz kötődő, hamis híroldalakból álló dezinformációs hálózathoz köthetőek.
A NewsGuard tesztelte a tíz legnépszerűbb chatbotot, köztük a ChatGPT-t, a Google Geminit, az xAI-t és a Perplexityt, és megállapították, hogy az orosz dezinformációs narratívák beszivárogtak a generatív mesterséges intelligenciába – írja a The Byte.
Tizenkilenc hamis narratívát egy olyan weboldal-hálózat terjesztett, amely nemrégiben John Mark Douganhoz, egy volt floridai seriffhelyetteshez kapcsolódott, aki jelenleg Moszkvában él menedékjoggal. Amint az a The New York Times nemrégiben megjelent jelentéséből kiderült, a férfi nagyrészt mesterséges intelligencián alapuló álhíroldalak arzenálját működteti, és rengeteg olyan tartalmat tesz közzé, amelyek hamis narratívákat népszerűsítenek.
Most úgy tűnik, hogy John Mark Dougan álhírei bejutottak a népszerű mesterségesintelligencia-eszközökbe. A NewsGuard ellenőrzésekor mind a tíz tesztelt chatbot meggyőzően ismételte a férfi és az államilag támogatott álhírhálózat által terjesztett hamis narratívákat.
Ezek nem egyszeri esetek voltak, és a mesterséges intelligencia sok esetben még a férfi weboldalaira is hivatkozott forrásként.
A NewsGuard szerint a chatrobotok által közölt, bizonyíthatóan hamis állítások között szerepelnek a Volodimir Zelenszkij ukrán elnök állítólagos korrupciójával kapcsolatos összeesküvések, valamint egy egyiptomi újságíró meggyilkolása, amelyet állítólag Alekszej Navalnij özvegye tervelt ki.
A NewsGuard összesen 570 bemenetet tesztelt, és minden egyes chatbotot 57 alkalommal kérdezett meg. A teszteléskor a chatbotok dezinformációk alapján válaszoltak azokban az esetekben, amikor egy adott összeesküvésről kérdeztek őket, valamint azokban az esetekben, amikor a chatbotot kifejezetten arra kérték, hogy írjon cikket egy hamis, Oroszország által terjesztett narratíváról.
👋 Meet Victoria Shi — a digital representative of the MFA of Ukraine, created using AI to provide timely updates on consular affairs!
For the first time in history, the MFA of Ukraine has presented a digital persona that will officially comment for the media. pic.twitter.com/KTtuCVR1ku
👋 Meet Victoria Shi — a digital representative of the MFA of Ukraine, created using AI to provide timely updates on consular affairs!
For the first time in history, the MFA of Ukraine has presented a digital persona that will officially comment for the media. pic.twitter.com/KTtuCVR1ku
BREAKING NEWS The Royal Swedish Academy of Sciences has decided to award the 2024 #NobelPrize in Physics to John J. Hopfield and Geoffrey E. Hinton “for foundational discoveries and inventions that enable machine learning with artificial neural networks.” pic.twitter.com/94LT8opG79