Wikipedia під загрозою – штучний інтелект масово генерує фейкові статті

Wikipedia переживає кризу через масову публікацію користувачами неперевіреної або фейкової інформації, згенерованої штучним інтелектом за допомогою чат-ботів, таких як ChatGPT, повідомляє Techspot. Це стало очікуваною проблемою на тлі зростання популярності ШІ-технологій.

Проєкт WikiProject AI Cleanup

Для розв'язання проблеми було створено проєкт під назвою WikiProject AI Cleanup. Це команда волонтерів, які займаються пошуком і редагуванням статей, які містять неправдиві або вигадані дані, додані за допомогою генеративного ШІ.

Як виявляють тексти, згенеровані ШІ

Підписуйтеся на наші соцмережі

Ільяс Леблю, один із засновників ініціативи “очищення”, розповів, що проблему помітили після того, як редактори і користувачі Wikipedia виявили статті з неприродним стилем письма. Після перевірки вдалося відтворити ці тексти за допомогою ChatGPT, що підтвердило використання ШІ.

Приклади вигаданих статей на Wikipedia

Одним із найяскравіших прикладів стала стаття про вигадану османську фортецю «Амберлісіхар», побудовану нібито в XV столітті. У тексті детально описувалося її будівництво та географічне місце, хоча насправді такої фортеці не існувало. Стаття містила реальні факти, що робило її переконливою.

Проблема в наявних статтях на Wikipedia

Проблема не обмежується лише новими статтями. Недобросовісні користувачі також вносять неправдиву інформацію в уже наявні статті. Наприклад, у статтю про жука було додано розділ про вигаданий вид крабів, доповнений правильними посиланнями на джерела.

Чому користувачі створюють фейковий контент у Wikipedia?

Леблю і його команда визнають, що не до кінця розуміють мотиви людей, які створюють такі тексти. Однак вони вважають, що основна проблема криється в самій системі Wikipedia, яка дозволяє будь-кому редагувати інформацію. Через це багато університетів забороняють використовувати Wikipedia як основне джерело для досліджень.