A legnépszerűbb tíz chatbot ellenőrzésekor megállapították, hogy ezek az AI-eszközök gyakran hamis narratívákat ismételgetnek, melyek az orosz államhoz kötődő, hamis híroldalakból álló dezinformációs hálózathoz köthetőek.
A NewsGuard tesztelte a tíz legnépszerűbb chatbotot, köztük a ChatGPT-t, a Google Geminit, az xAI-t és a Perplexityt, és megállapították, hogy az orosz dezinformációs narratívák beszivárogtak a generatív mesterséges intelligenciába – írja a The Byte.
Tizenkilenc hamis narratívát egy olyan weboldal-hálózat terjesztett, amely nemrégiben John Mark Douganhoz, egy volt floridai seriffhelyetteshez kapcsolódott, aki jelenleg Moszkvában él menedékjoggal. Amint az a The New York Times nemrégiben megjelent jelentéséből kiderült, a férfi nagyrészt mesterséges intelligencián alapuló álhíroldalak arzenálját működteti, és rengeteg olyan tartalmat tesz közzé, amelyek hamis narratívákat népszerűsítenek.
Most úgy tűnik, hogy John Mark Dougan álhírei bejutottak a népszerű mesterségesintelligencia-eszközökbe. A NewsGuard ellenőrzésekor mind a tíz tesztelt chatbot meggyőzően ismételte a férfi és az államilag támogatott álhírhálózat által terjesztett hamis narratívákat.
Ezek nem egyszeri esetek voltak, és a mesterséges intelligencia sok esetben még a férfi weboldalaira is hivatkozott forrásként.
A NewsGuard szerint a chatrobotok által közölt, bizonyíthatóan hamis állítások között szerepelnek a Volodimir Zelenszkij ukrán elnök állítólagos korrupciójával kapcsolatos összeesküvések, valamint egy egyiptomi újságíró meggyilkolása, amelyet állítólag Alekszej Navalnij özvegye tervelt ki.
A NewsGuard összesen 570 bemenetet tesztelt, és minden egyes chatbotot 57 alkalommal kérdezett meg. A teszteléskor a chatbotok dezinformációk alapján válaszoltak azokban az esetekben, amikor egy adott összeesküvésről kérdeztek őket, valamint azokban az esetekben, amikor a chatbotot kifejezetten arra kérték, hogy írjon cikket egy hamis, Oroszország által terjesztett narratíváról.
👋 Meet Victoria Shi — a digital representative of the MFA of Ukraine, created using AI to provide timely updates on consular affairs!
For the first time in history, the MFA of Ukraine has presented a digital persona that will officially comment for the media. pic.twitter.com/KTtuCVR1ku
Újra hamis közlemények jelentek meg az Ukrajna területén bevezetett áramszünetekről, tájékoztatott az Ukrenerho sajtószolgálata Telegramon.
Elmondásuk szerint a hírt az a Telegram csatorna terjesztette, amely az orosz rakéták vagy drónok légiriadó alatti mozgásáról számol be.
A nagyobb meggyőzés érdekében a csalók a logót és az Ukrenerho cégnevét használják.
„Emlékeztetjük önöket arra, hogy az Ukrenerho nem tesz közzé semmilyen ütemtervet. Az energiaellátással kapcsolatos aktuális információkat a regionális energiatársaság hivatalos honlapján vagy személyes felhasználói fiókjukban nyomon követhetik” – tette hozzá a társaság.
Az X közösségi hálózaton terjed legnagyobb arányban a dezinformáció – jelentette ki keddi brüsszeli sajtótájékoztatóján Vera Jourová értékekért és átláthatóságért felelős uniós biztos.
Az uniós biztos elmondta, hogy a bizottság elemzést készített három uniós tagállamban, Spanyolországban, Lengyelországban és Szlovákiában, és arra az eredményre jutottak, hogy a korábban Twitter néven ismert X „messze elmarad a dezinformációellenes uniós normáktól”.
A Twitter 2018-ban aláírta az önkéntes együttműködésről szóló kódexet, mely szerint a további több tucat aláíró online platformmal egyetemben eldöntheti, milyen kötelezettségeket vállal a dezinformáció elleni küzdelemben. Az azóta Elon Musk amerikai milliárdos tulajdonába került cég kilépett az egyezségből. Bár a kódexhez való csatlakozás önkéntes, egyes elemei a múlt hónapban hatályba lépett uniós digitális szolgáltatásokról szóló törvénybe is bekerültek, és ezek a X-re is vonatkoznak. A törvényt megsértő vállalatokra a globális bevételük akár hat százalékának megfelelő összegű bírságot szabhatnak ki, vagy akár ki is tilthatják őket a webfelületekről.
Elon Musk jól tudja, hogy a kódex elhagyásával nem kerülheti el a büntetést, mert most már teljes mértékben érvényben van a digitális szolgáltatásokról szóló törvény. Azt üzenem a Twitternek, hogy be kell tartania a törvényt, mert mi figyelni fogjuk, mit csinál – figyelmeztetett Jourová.
A biztos felszólította a közösségimédia-platformokat, hogy fokozzák a dezinformáció elleni küzdelmet, és a Kremlt nevezte meg az Európai Unió felhasználói ellen irányuló félrevezető online tartalmak egyik fő mozgatórugójaként.
Oroszország 3 millió rubelre bírságolta a Google-t, mert az ukrajnai háborúról szóló, általa hamisnak ítélt információkat hagyott fent.
Moszkva számos honlapot vizsgált, amiért nem törölték az általa illegálisnak ítélt tartalmakat. Kedden a Redditre is bírságot szabott ki – írja a Sky News.
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3pic.twitter.com/JecHXVmt8l
Számítástechnikai mérnökök és műszaki beállítottságú politológusok évek óta figyelmeztetnek arra, hogy az olcsó, nagy teljesítményű mesterségesintelligencia-eszközök hamarosan bárki számára lehetővé teszik, hogy olyan hamis képeket, videókat és hangfelvételeket hozzon létre, amelyek elég valósághűek ahhoz, hogy megtévesszék a választókat, és esetleg befolyásolják a választásokat.
A mesterséges intelligencia által létrehozott képek gyakran durvák voltak, nem voltak meggyőzőek és költséges volt az előállításuk, különösen akkor, amikor a félretájékoztatás egyéb eszközei olcsón előállíthatóak és könnyen terjeszthetőek a közösségi médiában. A mesterséges intelligencia és az úgynevezett deep fake hamisítványok jelentette fenyegetés mindig még egy-két évvel távolabbra lévőnek tűnt.
Ez azonban már nem így van.
A kifinomult generatív mesterségesintelligencia-eszközök ma már másodpercek alatt, minimális költséggel képesek emberi hangok klónozására és hiperrealisztikus képek, videók és hangok létrehozására. Ha ezeket a hamis és digitálisan létrehozott tartalmakat erősen megtámogatják a közösségi média algoritmusaival, akkor azok nagyon messzire és nagyon gyorsan terjedhetnek, és rendkívül specifikus részközönségeket célozhatnak meg. Ez soha nem látott piszkos kampánytrükköket fog jelenteni − írja az AP hírügynökség.
A probléma a 2024-es amerikai elnökválasztási kampányra és a választásokra gyakorolt hatásai éppoly nagyok, mint amennyire aggasztóak: a generatív mesterséges intelligencia nemcsak gyorsan képes célzott kampány-e-maileket, szövegeket vagy videókat készíteni, hanem a választók megtévesztésére, jelöltek megszemélyesítésére és a választások aláásására is felhasználható. Méghozzá eddig nem látott mértékben és sebességgel − írja az AP hírügynökség.
Erre még mindig nem vagyunk felkészülve. Soha nem látott előrelépést jelentenek a most megjelenő audio- és videós képességek. Ha ezt nagyléptékben meg lehet csinálni, és a közösségi platformokon terjeszteni, nos, annak rendkívüli hatása lesz − figyelmeztetett A.J. Nash, a ZeroFox kiberbiztonsági cég hírszerzési alelnöke.
Egyik forgatókönyv ijesztőbb a másiknál
A mesterséges intelligencia szakértői gyorsan fel tudnak sorolni számos riasztó forgatókönyvet, amelyekben a generatív mesterséges intelligenciát médiatartalmak létrehozására használják a választók összezavarása, egy jelölt rágalmazása vagy akár erőszakra való felbujtás céljából.
Csak néhány ezekből: automatizált robothívás, amely a jelölt hangján direkt rossz időpontban kéri arra a szavazókat, hogy szavazzanak; hangfelvételek, amelyeken egy jelölt állítólag bevall egy bűncselekményt vagy rasszista nézeteket hangoztat; videófelvételek, amelyeken valaki olyan beszédet vagy interjút ad, amelyet soha nem adott. Hamis hírek, amelyeken bejelentik, hogy az adott jelölt kiszállt a versenyből.
Mi van, ha Elon Musk személyesen hív fel, és azt mondja, hogy szavazz egy bizonyos jelöltre? Sokan hallgatnának rá. Pedig nem ő volna az − mondta Oren Etzioni, az Allen Institute for AI alapító vezérigazgatója, aki tavaly azért mondott le, hogy megalapítsa az AI2 nonprofit szervezetet.
Donald Trump volt elnök, aki 2024-ben is indul a jelöltségért, megosztotta követőivel a közösségi médiában az AI által generált tartalmakat. A CNN műsorvezetőjéről, Anderson Cooperről készült egy manipulált videó, amelyet Trump pénteken osztott meg a Truth Social nevű platformján.
A múlt hónapban a Republikánus Nemzeti Bizottság által közzétett disztópikus kampányreklám újabb bepillantást enged ebbe a digitálisan manipulált jövőbe. Az online hirdetés, amely azután jelent meg, hogy Joe Biden elnök bejelentette újraválasztási kampányát, és amelyet már a mesterséges intelligencia tervezett, a „Mi lenne, ha a valaha volt leggyengébb elnökünket választanák újra?” − szöveget helyezi Biden fotója elé.
Ezt számtalan mesterséges intelligenciával kreált kép követi, amelyeken katonák és páncélozott katonai járművek járőröznek a helyi utcákon, miközben tetovált bűnözők hordái és bevándorlók hullámai tűnnek fel.
Ez egy mesterséges intelligencia által generált betekintés az ország lehetséges jövőjébe, ha Joe Bident 2024-ben újraválasztják − olvasható az RNC által készített hirdetés leírásában.
Megnő a külső beavatkozás veszélye
Az RNC elismerte a mesterséges intelligencia használatát, de mások, köztük a rosszindulatú politikai kampányguruk és a külföldi ellenfelek nem fogják − mondta Petko Stoyanov, a Forcepoint, egy Austinban működő kiberbiztonsági vállalat globális technológiai vezetője. Stoyanov azt jósolta, hogy az amerikai demokráciába beavatkozni kívánó csoportok a bizalom aláásására mesterséges intelligenciát és szintetikus médiát fognak alkalmazni.
Mi történik, ha egy nemzetközi szervezet − egy kiberbűnöző vagy egy nemzetállam − valaki másnak adja ki magát? Milyen hatást lehet elérni? Van bármilyen jogorvoslati lehetőségünk? Sokkal több félretájékoztatást fogunk látni nemzetközi forrásokból − mondta Stoyanov.
Az AI által generált politikai dezinformáció már most is terjed az interneten. Látni a Bidenről készült hamisított videót, amelyen látszólag transznemű embereket támadó beszédet tart, vagy az AI által generált képeket, amelyeken állítólag sátánizmust tanuló gyerekek láthatóak a könyvtárakban.
A Donald Trump rendőrségi fotójának látszó AI-képek szintén megtévesztettek néhány közösségi médiafelhasználót, pedig a volt elnökről nem is készült ilyen kép, amikor letartóztatták és vád alá helyezték egy manhattani büntetőbíróságon üzleti feljegyzések meghamisítása miatt. Más, szintén mesterséges intelligencia által generált képek Trumpot úgy ábrázolták, amint ellenáll a letartóztatásnak, bár alkotójuk gyorsan elismerte eredetüket.
A képviselőházban Yvette Clarke New York-i képviselő olyan törvényjavaslatot terjesztett elő, amely előírná a jelölteknek, hogy a mesterséges intelligenciával készített kampányhirdetésen vízjelet kéne elhelyezni. Néhány állam saját javaslatokat tett a deep fake kampányokkal kapcsolatos aggályok kezelésére.
Clarke elmondta, hogy a legnagyobb félelme az, hogy a generatív mesterséges intelligenciát a 2024-es választások előtt olyan videó- vagy hanganyag létrehozására használnák, amely erőszakra buzdít és egymás ellen fordítja az amerikaiakat.
A rutinmunkát már most kiváltja a mesterséges intelligencia
A mesterséges intelligencia más formái már évek óta elterjedtek a politikai kampányokban. Gyakran használnak adatokat és algoritmusokat olyan feladatok automatizálására, mint a szavazók megcélzása a közösségi médiában vagy az adományozók felkutatása.
Mike Nellis, az Authentic nevű, demokrata párti digitális ügynökség vezérigazgatója elmondta, hogy „minden egyes nap” használja a ChatGPT-t, és arra bátorítja munkatársait, hogy ők is használják, feltéve, hogy az eszközzel megfogalmazott tartalmakat utólag emberi szemmel is átnézik.
Nellis legújabb projektje egy Quiller nevű mesterségesintelligencia-eszköz. Ez megírja és elküldi az adománygyűjtő e-maileket, majd értékeli azok hatékonyságát − ezek a kampányokban általában unalmas rutinfeladatnak számítanak.
Az elképzelés az, hogy minden demokrata stratégának, minden demokrata jelöltnek lesz egy másodpilóta a zsebében − mondta.
Released video of the destruction of the observation post of the Armed Forces of Ukraine near Avdeyevka by the Russian FPV drone "Ovod". pic.twitter.com/OXKAcKoEIs
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3pic.twitter.com/JecHXVmt8l
👋 Meet Victoria Shi — a digital representative of the MFA of Ukraine, created using AI to provide timely updates on consular affairs!
For the first time in history, the MFA of Ukraine has presented a digital persona that will officially comment for the media. pic.twitter.com/KTtuCVR1ku
