Кремль використовує чат-боти для поширення своєї пропаганди

Російська дезінформаційна мережа використовує західні чат-боти для поширення своєї пропаганди, стверджують американські експерти. Близько третини відповідей від ChatGPT та інших додатків містять кремлівські наративи.

Експерти стверджують, що росія використовує західні чат-боти, зокрема, для своїх глобальних дезінформаційних кампаній. Як зазначається в дослідженні компанії з аналізу даних NewsGuard, більше третини відповідей від розмовних помічників на основі штучного інтелекту, таких як ChatGPT, містять проросійську дезінформацію.

За цим, на думку експертів, стоїть московська мережа «Правда», яка поширює прокремлівську пропаганду по всьому світу.

«Вихідні дані західних систем штучного інтелекту на сьогодні містять величезну кількість російської пропаганди (у 2024 році 3 600 000 статей), заражаючи відповіді неправдивими твердженнями і пропагандою», – пишуть вони у своїй доповіді.

Для дослідження NewsGuard проаналізував десять найкращих програм зі штучним інтелектом, серед яких ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini, Perplexity. Усі вони відтворювали неправдиву інформацію, поширену «Правдою», причому сім чат-ботів навіть посилались як на джерела на конкретні статті «Правди».

На думку дослідників, мережа «Правда» маніпулює чат-ботами, наповнюючи великі мовні моделі (LLM) штучного інтелекту (ШІ) фейковими новинами, на основі яких генеруються відповіді. Цей метод відомий як «догляд за ЛММ», повідомляє видання Spiegel, яке опублікувало дослідження. Чат-боти зі штучним інтелектом не тільки підхоплюють дезінформацію, що циркулює в інтернеті, але й свідомо впливають на неї.

В іншому дослідженні американська неурядова організація Sunlight Project попереджає про зростання впливу мережі «Правда», відомої також як «Портал Комбат».

«Здатність мережі «Правда» поширювати дезінформацію в таких масштабах є безпрецедентною, а потенціал її впливу на системи штучного інтелекту робить цю загрозу ще більш небезпечною, – сказала Ніна Янкович, виконавча директорка організації, в інтерв’ю AFP. – Оскільки російський вплив стає дедалі більш масштабним і витонченим, цілісність демократичних дебатів у всьому світі перебуває під неминучою загрозою».

Джерело