Вікіпедія переживає кризу — штучний інтелект масово генерує неправдиві статті

Користувачі масово почали публікувати неперевірену інформацію, згенеровану штучним інтелектом за допомогою чат-ботів, таких як ChatGPT і йому подібних.

Найвідоміша онлайн-енциклопедія Wikipedia переживає кризу через штучний інтелект. Про це повідомляє TechSpot.

Зокрема, користувачі масово почали публікувати неперевірену інформацію, згенеровану штучним інтелектом за допомогою чат-ботів, таких як ChatGPT і йому подібних.

Для розв’язання проблеми було створено проект під назвою WikiProject AI Cleanup, який представляє собою групу добровольців, що займається пошуком, редагуванням і видаленням неправдивої інформації, імовірно доданої за допомогою генеративного штучного інтелекту.

Один із засновників команди Ільяс Леблю повідомив, що про проблему стало відомо, коли редактори і користувачі Wikipedia помітили уривки статей, явно написані чат-ботом. Підозри підтвердилися, коли деякі з цих текстів вдалося відтворити за допомогою ChatGPT.

«Ми звернули увагу на незвичайний стиль письма, який був явно написаний не людиною, ми змогли відтворити ці фрази за допомогою ChatGPT, — сказав Леблю. — Виявивши характерні звороти і вирази, ми ідентифікували найбільш кричущі приклади згенерованих статей. Після цього і було вирішено організувати проект із пошуку ШІ-тексту».

Один із прикладів — стаття про нібито існуючу османську фортецю під назвою «Амберлісіхар», побудовану в 1400-х роках. У тексті об’ємом близько 2000 слів докладно описувалося місце розташування і будівництво цього об’єкта. Однак фортеці насправді не існує, і вся інформація про неї була повністю вигаданою, але мала переконливий вигляд завдяки вкрапленням реальних фактів.

При цьому проблема стосується не лише нових статей на Wikipedia. Недобросовісні користувачі вставляють неправдиві дані в уже наявні статті. В одному з випадків у статтю про жука додали розділ, присвячений неіснуючому виду крабів, причому з правильними посиланнями на джерела.

Леблю і його колеги визнають, що до кінця не розуміють, чому люди це роблять. Однак причина очевидна — це проблема самої системи Wikipedia, яка дозволяє кожному стати редактором. До речі, саме з цієї причини багато університетів забороняють студентам використовувати Wikipedia як основне джерело інформації, додає видання.