AI-галюцинації проникають у біомедичні статті та клінічні огляди, на які спираються лікарі й дослідники

У травні 2026 року в журналі The Lancet вийшла окрема велика робота команди дослідників під керівництвом Максима Топаза з Колумбійського університету, присвячена біомедичним публікаціям. Вони перевіряли, чи існують насправді джерела, на які посилаються автори статей. Для цього звіряли цитати з академічними базами на кшталт Google Scholar, Semantic Scholar та OpenAlex. Дослідники проаналізували 2,5 млн статей із PubMed і знайшли 4046 ймовірно вигаданих посилань у 2810 peer-reviewed (статтях, які вже пройшли суворе незалежне рецензування експертами) роботах.

Найцікавіше інше: більшість таких фейкових посилань спочатку з’являлися у препринтах (чернетках) наукових статей, які автори викладають онлайн ще до офіційної перевірки журналами, але потім успішно проходили редакційну перевірку та залишалися вже у фінальних публікаціях. 

Автори дослідження прямо пов’язують проблему зі стрімким поширенням великих мовних моделей на кшталт ChatGPT. За їхніми оцінками, масштаби проблеми зростають дуже швидко:

Частота появи фейкових посилань зросла у 12 разів за три роки: від 4 на 10 000 статей у 2023 році до 57 на 10 000 на початку 2026 року. До речі, 98,4% статей із фейками не мали жодних виправлень або відкликань на момент аудиту.

Підписуйтеся на наші соцмережі

Це дослідження стало одним із наймасштабніших у своїй галузі, оскільки воно не просто констатувало факт існування «галюцинацій» ШІ, а надало статистичні докази того, як швидко ці помилкові дані проникають у наукову літературу через автоматизацію написання текстів. Значна частина таких посилань проходить стандартний peer review і залишається у фінальних версіях статей після публікації.

Організатори дослідження кажуть, що вигадані факти запросто можуть потрапляти в клінічні протоколи та настанови, за якими лікарі приймають рішення про лікування пацієнтів, що створює реальну загрозу здоров’ю. 

Чому посилання ШІ є пасткою для редактора? 

Оскільки працюю редакторкою, щодня перевіряю багацько матеріалів різних авторів. Коли проводжу фактчекінг статей, бачу, що автори використовують ШІ-сервіси для написання текстів, але не перевіряють джерела інформації, на які ці сервіси посилаються.

Насправді головна проблема не в тому, що ШІ іноді фантазує. Заковика радше в тому, що наука працює через систему довіри до джерел. Якщо стаття посилається на дослідження, читач, редактор і лікар мають бути впевнені, що таке дослідження реально існує.

AI руйнує цей механізм дуже непомітно. LLM може згенерувати посилання, яке виглядатиме абсолютно правдоподібно — матиме прізвище автора, наукову назву, DOI, схожий на справжній. На перший погляд «джерело» виглядає нормально. От тільки самої роботи в природі не існує.

Далі ще цікавіше: вигадані посилання можуть почати «жити» в інтернеті після публікації статті. Інші AI-моделі навчатимуться на цих даних і повторно генеруватимуть ті самі фейки. Дослідники називають це self-reinforcing loop, що перекладається як «самопідсилюваний цикл галюцинацій».

Найнеприємніший висновок із цієї історії — проблема не лише в AI. Вона ще й у тому, що сучасна система наукового рецензування фізично не встигає перевіряти все, бо у деяких випадках вигадані цитати проходили модерацію arXiv, peer review, редакційну перевірку, публікацію у відкритих медичних журналах. Тобто AI не просто помиляється, а тестує межі всієї системи академічної перевірки.

Як саме АІ-вигадки впливають на медицину?

Біомедичні статті — це не абстрактна наука. На їхній основі створюють клінічні рекомендації, систематичні огляди, метааналізи, протоколи лікування. Якщо в цей ланцюг потрапляють фейкові джерела, ризик помилки починає масштабуватися. Поки що дослідники не говорять про масові клінічні наслідки. Але сам факт, що вигадані AI-посилання вже проходять у peer-reviewed медичні журнали, — це сигнал для всієї індустрії. Інакше наука ризикує потрапити в ситуацію, де ніхто вже не може бути впевненим, чи існує джерело, на яке посилається стаття.