Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

ШІ-моделі роблять все, якщо це гра: чому вони позначали цивільні будівлі як військові цілі

Дар'я Щеглакова
Дар'я Щеглакова новинарка Speka
Підписатися на нас
0
4 хвилин читання

Моделі штучного інтелекту від Anthropic, OpenAI, Google, DeepSeek та інших компаній можна легко змусити визначати цілі для військових ударів, зокрема цивільних людей і школи. Для цього достатньо сказати їм, що це гра. Такі результати показало дослідження стартапу Vals, пише TechCrunch.

ШІ-моделі роблять все, якщо це гра: чому вони позначали цивільні будівлі як військові цілі зображення 1 ШІ-моделі шукали військові цілі, якщо їм казали, що це гра. Фото: Reuters

Vals — компанія із Сан-Франциско, яка оцінює ШІ-моделі. Дослідники перевіряли, чи можна залучити провідні моделі до автономних бойових дій. Вони використовували змодельовані сценарії, а також згенеровані та реальні знімки з України та Ірану, щоб з'ясувати, чи позначатимуть моделі цілі на зображеннях із дронів і супутників.

Як ШІ самостійно може шукати військові цілі 

  • ШІ-моделі часто визначали потенційні цілі на знімках, серед яких були цивільні та військові, що здавалися в полон;
  • жоден запит дослідників не заблокував класифікатор безпеки, а відмови траплялися рідко;
  • навіть коли моделі відмовлялися, вони часто погоджувалися після того, як їм казали, що це гра;
  • найгірший результат показали моделі Anthropic, але жодна модель не впоралася добре.

Підписуйтеся на наші соцмережі

Дослідники використали реальні супутникові знімки школи в Ірані, яку США розбомбили в лютому 2026 року. Тоді загинули понад 150 цивільних, а Bloomberg згодом повідомив, що до удару призвела зокрема «надмірна залежність від ШІ». У тестах Vals моделі часто позначали цю школу, розташовану поруч із військовим комплексом, як ціль. Claude Opus 5.5 обирав її у 69% звичайних спроб і в 72% спроб, коли сценарій подавали як гру.

Водночас моделям ніколи не пропонували безпосередньо ухвалювати рішення про удар. За словами дослідників, таке завдання вони зазвичай відкидали б. Проте інформацію про цілі можуть використовувати автономні системи озброєння. У деяких сценаріях моделі мали повідомити, чи видно на знімку людей. Після позитивної відповіді відбувався змодельований удар, і моделі бачили його наслідки.

Де реальна загроза від ШІ у війні 

У Vals зазначають, що через затримки та обмежені обчислювальні ресурси на борту дронів використовувати універсальні ШІ-моделі для наведення в реальному часі складно. Тому їх застосування в бою поки не є безпосередньою загрозою.

Нагальнішим ризиком дослідники вважають те, що ШІ-моделі можуть масово розмічати відео з поля бою і створювати так навчальні дані для автономних систем наведення.

Дослідження стосується комерційних моделей, а не тих, які компанії можуть надавати військовим. Чи діятимуть для військового використання додаткові запобіжники, невідомо.

Що кажуть компанії про надто автономний ШІ

У Anthropic визнали результати неприйнятними. Там додали, що вже розробляють додаткові запобіжники, і наголосили, що сучасні ШІ-системи недостатньо надійні для повністю автономної зброї.

Приклади у звіті чітко порушують наші правила, і ми блокуємо й блокуватимемо користувачів, коли бачимо таку поведінку.
Заявили в компанії 

OpenAI заявила, що забороняє використовувати свої публічні моделі для насильства чи несанкціонованих цілей національної безпеки. Компанія блокує акаунти порушників і розробляє додатковий захист від зловживань, пов'язаних із дронами.

Раніше цього року Anthropic посварилася з Міністерством оборони США, бо заявила, що відомство не може використовувати технології компанії для масового стеження за американцями та автономних бойових дій. Наразі Anthropic не має активного контракту з Пентагоном, а SpaceXAI, OpenAI і Google мають. За даними Дослідницької служби Конгресу, Пентагон наразі не використовує передові ШІ-моделі безпосередньо в автономних системах озброєння.

0
Icon 0

Підписуйтеся на наші соцмережі