Фейкових цитат у наукових статтях стало в 12 разів більше: до чого тут ШІ
Кількість вигаданих посилань у наукових статтях з біомедицини зросла у 12 разів із 2023 року, і винуватий у цьому штучний інтелект. Це виявила команда науковців під керівництвом Максима Топаза, дослідника штучного інтелекту Колумбійського університету, пише Nature.
Скільки фейкових цитат можна знайти в наукових статтях
- Команда дослідників проаналізувала 2,5 млн статей з PubMed Central Open Access, опублікованих у період з січня 2023-го до лютого 2026-го.
- Вони перевірили 97 млн посилань з дійсними ідентифікаторами DOI або PubMed і відстежили кожне по чотирьох базах: PubMed, Crossref, OpenAlex та Google Scholar.
- Якщо назва статті в посиланні не збігалася з тим, що за цим DOI реально існує, або ж не знаходилась ніде, то науковці вважали, що посилання фейкове.
- За цим критерієм відібрали 2564 статті з однією-двома підробленими цитатами і ще 246 публікацій, де таких було три і більше.
Де в наукових статтях найбільша фейкових посилань
Темп виготовлення фейкових посилань у 2026 році перевищив показник 2023-го більш ніж у 12 разів.
Підписуйтеся на наші соцмережі
Оглядові наукові статті мали рівень фабрикацій на 57% вищий порівняно з іншими форматами публікацій. Серед позначених матеріалів опинилися 28 клінічних досліджень і 79 систематичних оглядів. Саме ці жанри прямо впливають на медичні протоколи та лікарські рішення.
І це не перебільшення: лише 1,6% виявлених статей взагалі відкликали або виправили, і жодне виправлення не стосувалося підроблених посилань.
Раніше ми писали, що ШІ-моделі масово помиляються навіть при пошуку новин, схожа проблема галюцинацій давно є і за межами академічного середовища. Але у науці ставки вищі.
Як ШІ створює фейкові посилання до наукових статей
- При ручній верифікації 500 позначених посилань три незалежних рецензенти підтвердили фабрикацію в семи з десяти випадків. Кетрін Вебер-Буер з Digital Science оцінює дослідження як «твердий перший внесок у проблему» і підкреслює, що зростання динаміки свідчить про генеративний компонент.
- Тобто посилання, найімовірніше, не вигадують вручну, їх генерують великі мовні моделі (LLM).
- Водночас самі автори дослідження попереджають, що реальна картина гірша. Google Scholar не завжди надійний, деякі фейки там з'являються, але не ведуть до реальних публікацій.
- Тому цифра у 2810 статей із підробленими цитатами — нижня межа, а не фінальний рахунок.
З проблемою ШІ-галюцинацій у медичних даних ми стикалися й раніше: великі мовні моделі в клінічному середовищі помиляються навіть при базових записах пацієнтів.
Як позбавитися фейкових посилань у наукових статтях
Топаз наполягає, що видавці мають впровадити автоматизовану перевірку посилань ще до того, як стаття потрапить до рецензентів.
Паралельно виникає ширше питання: якщо автономні ШІ-системи дедалі частіше пишуть наукові роботи, хто і на якому рівні перевіряє, чи взаємодіяв автор із джерелами, які цитує.
Проблема не обмежується закордонними виданнями. Українська академічна спільнота також стикається з питаннями наукової доброчесності, і не лише на рівні цитат.
Нещодавно професор Київської школи економіки навмисно подав до українського наукового журналу статтю про повністю вигадану країну, щоб перевірити, як працює рецензування. Журнал прийняв матеріал без зауважень. Цей експеримент показав, що проблема не в інструментах, а в самій системі перевірки. Фейкові посилання, які генерує ШІ, лише додають новий шар до вже існуючої вразливості.