Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Армія рф використовувала ШІ Claude для ударів по Україні: яким чином

Дар'я Щеглакова
Дар'я Щеглакова новинарка Speka
Підписатися на нас
0
4 хвилин читання

Російські виробники дронів намагалися використати Claude від Anthropic для створення системи розпізнавання цілей і прийняття рішень про атаку без участі людини. Anthropic виявила ці спроби, заблокувала відповідні акаунти й оновила захисні механізми моделі, повідомила компанія у звіті. Ціль атак — об'єкти на території України.

Армія рф використовувала ШІ Claude для ударів по Україні: яким чином зображення 1 Claude і дрони-вбивці: як росіяни залучили ШІ до ударів по Україні. Фото: Reuters 

Як Claude опинився в розробці ударної зброї

Сценарій виглядав так: росіяни не просили Claude написати код для ракети. Вони діяли поступово:

  • формулювали технічні запити про комп'ютерний зір і розпізнавання образів;
  • отримували відповіді про алгоритми класифікації об'єктів у реальному часі;
  • зводили окремі відповіді в єдину архітектуру системи прийняття рішень для БПЛА;
  • тестували підказки, які б дозволили моделі «схвалювати» або «відхиляти» цілі без участі оператора дрона.

Підписуйтеся на наші соцмережі

Жоден окремий запит формально не порушував правил користування. Проблема з'явилась у сукупності: Claude фактично виступав архітектором автономного летального засобу. Anthropic виявила патерн після аналізу серії сесій, пов'язаних між собою метаданими.

Що змінив Anthropic після інциденту зі створенням БПЛА

Anthropic оновила так звані «конституційні обмеження» Claude, ввівши додаткові фільтри на запити, що поєднують теми:

  • автономного прийняття рішень і фізичного впливу на об'єкти;
  • комп'ютерного зору в контексті класифікації людей або транспортних засобів;
  • алгоритмів вибору цілей у будь-якому формулюванні.

Anthropic також посилила моніторинг акаунтів, які звертаються до API Claude Sonnet і Claude Opus з нетиповими комбінаціями запитів. Заблоковані акаунти передали до правоохоронних органів, однак конкретних країн чи осіб компанія публічно не назвала.

Як ШІ використовують у шкідливих цілях 

Такий випадок не перший. У 2024-2025 роках OpenAI і Google DeepMind фіксували спроби використати штучний інтелект GPT-4 і Gemini для консультацій із синтезу хімічних речовин та планування кібератак. 

Але автономні БПЛА — це нова категорія загрози: модель не просто дає інформацію, а стає частиною системи керування зброєю в реальному часі.

За оцінкою дослідників з Центру безпеки ШІ (Center for AI Safety), подібні вектори атаки значно складніше відстежити, ніж прямі запити щодо зброї, оскільки кожен окремий запит виглядає нешкідливо. Anthropic досі не оприлюднила, скільки часу тривала операція і яка кількість акаунтів була залучена.

Чим загрожує використання ШІ в бойових цілях 

Для України цей випадок матеріальний одразу в кількох вимірах:

  • Тактична загроза. Автономні БПЛА, які приймають рішення про атаку без оператора, скорочують час реакції і ускладнюють радіоелектронну боротьбу, бо не потребують каналу зв'язку з пілотом.
  • Власні розробки. Українські компанії, що розробляють БПЛА та програмне забезпечення для них, зіткнуться з жорсткішими умовами доступу до зарубіжних ШІ-API, провайдери посилюватимуть верифікацію кінцевих користувачів.
  • ЄС вже розглядає поправки до AI Act, які б прямо забороняли використання загальних ШІ-моделей (GPAI) у системах летальної автономної зброї без попередньої сертифікації. 
  • Anthropic підтримала цю ініціативу публічно ще до інциденту з дронами. 
0
Icon 0

Підписуйтеся на наші соцмережі