“Дрон, керований ШІ, намагався вбити оператора”: що відбулось насправді

Днями в ЗМІ розлетілась новина, що наче ШІ «вбив» людину у симуляції. Новина набула широкого резонансу. Що відбулось насправді, розповідає SPEKA.

На саміті щодо майбутнього бойового повітряно-космічного потенціалу, Такер «Сінко» Гамільтон, начальник відділу випробувань і операцій з ШІ ВПС США, розповів, як дрон, керований ШІ, “вбив” людину-оператора у симульованому випробуванні.

Однак після публікації цієї історії, речник ВПС Енн Штефанек сказала Insider, що США не проводили такого тесту, і що коментарі офіційного представника ВПС були вирвані з контексту.

Завдання, поставлене ШІ, було простим: знищити системи протиповітряної оборони противника. Однак ШІ додав власні інструкції “вбивати кожного, хто встане на шляху”.

Підписуйтеся на наші соцмережі

Система отримувала у симуляції бали за винищення об’єктів. Іноді людина-оператор казав не знищувати загрозу — і сам ставав ціллю для ШІ.

ШІ, який керував дроном, вбив симуляцію людини-оператора в симуляції бою. Але, за словами Гамільтона, в реальному житті це могло би вбити оператора.

Речник ВПС спростувала цю інформацію: 

Моральні аспекти використання ШІ 

Штучний інтелект навряд чи сам може вбити людину. Проте це може статись, якщо людина з MBA сформулює специфічне завдання для ШІ, пояснює Сарабх Бгатнагар, дослідник ШІ.

Складні системи мають багато «побічних ефектів». Наприклад, вирішити проблему голоду у світі можна, у тому числі, й убивши людей: мертві люди — не голодні. Відновити дику природу теж можна, запустивши вірус, націлений на людей, які руйнують ліса та океани.

Проблема полягає не в ШІ, а в умовах його використання.