ШІ підозрюють у написанні оповідання, яке перемогло в престижній літературній премії
Оповідання The Blue Fighter письменника із Зімбабве Сімбараше Стейна Кундізези, яке здобуло престижну літературну премію Caine Prize for African Writing, запідозрили у використанні штучного інтелекту. Детектор Pangram позначив майже весь текст як згенерований ШІ.
Про це пише The Atlantic.
Організатори премії розпочали перевірку, однак наголошують, що результат автоматичного аналізу не може бути самостійним доказом порушення.
Про це пише The Atlantic. Авторка матеріалу Вахіні Вара звертає увагу, що цей випадок став черговим скандалом навколо використання ШІ в літературі. Схожі підозри раніше виникали щодо творів, пов'язаних із преміями Commonwealth Prize та Prix Goncourt.
Чому оповідання переможця запідозрили у використанні ШІ
The Blue Fighter отримало Caine Prize минулого тижня. Переможець премії для африканських авторів отримує £10 000 — приблизно $13 000.
У центрі оповідання — родина, яка переживає фінансові труднощі через захоплення батька розведенням риби. Авторка матеріалу в The Atlantic звертає увагу на сентиментальність тексту, шаблонні метафори та повчальні фрази, які, на її думку, нагадують стиль текстів, створених чатботами.
Детектор Pangram позначив майже все оповідання як написане штучним інтелектом. Водночас епіграф, який приписують неопублікованому віршу Вангіле Гантшо, система визначила інакше.
Авторка статті також порівняла цей текст із попереднім оповіданням Кундізези — The Whistleblower, опублікованим у журналі Transition у 2021 році. Pangram визначив його як повністю написаний людиною. За спостереженнями Вари, попередній твір має природнішу мову та менш шаблонні діалоги.
Підписуйтеся на наші соцмережі
Однак результат детектора не доводить, що автор використовував ШІ. Сам письменник публічно не надав пояснень у межах описаного розслідування.
Організатори премії почали перевірку
Голова опікунської ради Caine Prize Елла Вакатама повідомила The Atlantic, що організатори розпочали розслідування після того, як дізналися про результати аналізу Pangram.
За її словами, команда планує повторно прочитати оповідання, поговорити з автором і членами журі, а також обговорити можливість перевірки попередніх версій рукопису.
Вакатама наголосила, що використання ШІ саме по собі не можна вважати доведеним лише через висновок автоматизованого інструмента. За її позицією, потрібні докази, які не ґрунтуються виключно на машинному аналізі.
За правилами Caine Prize, художні твори, згенеровані ШІ, не допускаються до конкурсу. Проте організатори мають встановити, чи справді в цьому випадку було порушення.
У матеріалі The Atlantic також зазначається, що представниця літературної агенції Serendipity, яка представляє Кундізезу, спочатку пообіцяла надати докази того, що оповідання є його власною роботою. До моменту публікації статті журналістка їх не отримала.
Чому одного детектора ШІ недостатньо
Інструменти для виявлення текстів, створених штучним інтелектом, можуть помилятися. Тому результати таких перевірок викликають занепокоєння серед письменників, редакторів і викладачів: людський текст можуть помилково позначити як машинний.
Pangram заявляє, що його система помилково класифікує людські тексти як згенеровані ШІ приблизно в одному випадку на 24 000. У статті також згадується дослідження Vrije Universiteit Brussel, у якому дослідники не виявили хибнопозитивних результатів для англомовних текстів авторів, для яких англійська не є рідною.
Водночас незалежних досліджень ефективності таких інструментів для авторів із різних країн і мовних середовищ поки недостатньо. Тому навіть висока заявлена точність не скасовує потреби в додатковій перевірці.
Вара також перевірила за допомогою Pangram 25 попередніх оповідань-переможців Caine Prize. Система класифікувала всі їх як написані людьми. Цей результат підсилює підозри щодо The Blue Fighter, але не є остаточним доказом його походження.
Ще два літературні конкурси опинилися в центрі скандалів
Випадок із Caine Prize став частиною ширшої дискусії про використання ШІ в літературі. Раніше подібні підозри виникли навколо Commonwealth Prize. За даними The Atlantic, один із творів, щодо яких виникли питання про використання ШІ, зрештою отримав нагороду.
Інший скандал стосувався французької премії Prix Goncourt. Там письменника виключили з розгляду після підозр у використанні ШІ, які посилилися звинуваченнями в плагіаті в його попередніх роботах.
Ці випадки порушують питання про те, як літературні конкурси мають перевіряти авторство творів, не покладаючись винятково на автоматизовані системи. Відсутність зрозумілих процедур перевірки може підривати довіру як до письменників, так і до самих премій.
Чи може ШІ відтворювати культурні стереотипи
Окрема претензія авторки The Atlantic стосується зображення африканського життя в The Blue Fighter. У творі вона помітила знайомі стереотипи: безпорадного батька, матір, яка тримає родину на собі, та постійне тло бідності.
Письменник і літературний критик Топе Фоларін, який раніше сам отримував Caine Prize, назвав сюжет глибоко людським і таким, що заслуговує на людське вираження. Він також зауважив, що автори з країн Глобального Півдня можуть відчувати тиск, змушуючи свої тексти відповідати очікуванням західної аудиторії.
Дослідження генеративного ШІ справді вказують на те, що моделі можуть відтворювати культурні упередження та стереотипи, наявні в навчальних даних. Проте схожість твору з такими шаблонами не дає змоги встановити, хто саме його написав.