Chatbotokat manipulált a Kreml, hogy terjeszthesse a propagandáját
Egy orosz dezinformációs hálózat manipulálja a nyugati chatbotokat – állítják amerikai kutatók. A ChatGPT és más alkalmazás válaszainak mintegy harmada Kreml-propagandát tartalmaz.
Szakértők szerint Oroszország a nyugati chatbotokat is manipulálja globális dezinformációs kampányaihoz. A NewsGuard adatelemző cég tanulmánya szerint a mesterséges intelligenciával működő párbeszéd-asszisztensek, például a ChatGPT válaszainak több mint egyharmada oroszbarát félretájékoztatást tartalmaz.
A kutatók szerint emögött a moszkvai Pravda (igazság) nevű hálózat áll, amely világszerte Kreml-barát propagandát terjeszt.
„A nyugati mesterséges intelligencia rendszerek eredményei között most hatalmas mennyiségű – 2024-ben 3 600 000 cikk – orosz propaganda szerepel, hamis állításokkal és propagandával fertőzve meg a válaszokat” – írják a kutatók jelentésükben.
A tanulmányhoz a NewsGuard a tíz legfontosabb mesterséges intelligencia alkalmazást vizsgálta meg, köztük a ChatGPT-4-et, a Smart Assistant-et, a Grokot, a Copilot-ot, a Meta AI-t, a Google Geminit és a Perplexity-t. Ezek mindegyike reprodukálta a Pravda által terjesztett hamis információkat, írja a tanulmány, hét chatbot még konkrét Pravda-cikkeket is idézett forrásként.
A kutatók szerint a Pravda hálózat úgy manipulálja a chatbotokat, hogy hamis híreivel elárasztja az AI-alkalmazások nagy nyelvi modelljeit (LLM), amelyekből a válaszokat generálják. Ezt a módszert „LLM grooming”-nak nevezik – írja a tanulmányról beszámoló Spiegel. A tanulmány szerint a mesterséges intelligencia chatbotok nemcsak felveszik az interneten keringő dezinformációkat, hanem szándékosan befolyásolják is őket.
Egy másik tanulmányban az amerikai Sunlight Project nevű NGO is a Pravda hálózat – más néven „Portal Kombat” – növekvő hatókörére figyelmeztet.
„A Pravda hálózat képessége a dezinformáció ilyen mértékű terjesztésére példátlan, és a mesterséges intelligencia rendszerek befolyásolására való lehetősége még veszélyesebbé teszi ezt a fenyegetést” – mondta Nina Jankowicz, a szervezet ügyvezető igazgatója az AFP-nek. „Az orosz befolyásszerzés hatókörének és kifinomultságának növekedésével a demokratikus vita integritása világszerte közvetlen veszélybe kerül.”
Iratkozz fel speciálisan erre a célra kialakított Telegram-csatornánkra, melyen teljes egészében megosztjuk cikkeinket! A telefonod háttérben futó üzemmódban fogja betölteni az aktuális híreket, így nem fogsz lemaradni a legfontosabb eseményekről!
Feliratkozás
