“Дрон, керований ШІ, намагався вбити оператора”: що відбулось насправді
Днями в ЗМІ розлетілась новина, що наче ШІ «вбив» людину у симуляції. Новина набула широкого резонансу. Що відбулось насправді, розповідає SPEKA.
На саміті щодо майбутнього бойового повітряно-космічного потенціалу, Такер «Сінко» Гамільтон, начальник відділу випробувань і операцій з ШІ ВПС США, розповів, як дрон, керований ШІ, “вбив” людину-оператора у симульованому випробуванні.
Однак після публікації цієї історії, речник ВПС Енн Штефанек сказала Insider, що США не проводили такого тесту, і що коментарі офіційного представника ВПС були вирвані з контексту.
Завдання, поставлене ШІ, було простим: знищити системи протиповітряної оборони противника. Однак ШІ додав власні інструкції “вбивати кожного, хто встане на шляху”.
Підписуйтеся на наші соцмережі
Система отримувала у симуляції бали за винищення об’єктів. Іноді людина-оператор казав не знищувати загрозу — і сам ставав ціллю для ШІ.
ШІ, який керував дроном, вбив симуляцію людини-оператора в симуляції бою. Але, за словами Гамільтона, в реальному житті це могло би вбити оператора.
Речник ВПС спростувала цю інформацію:
Моральні аспекти використання ШІ
Штучний інтелект навряд чи сам може вбити людину. Проте це може статись, якщо людина з MBA сформулює специфічне завдання для ШІ, пояснює Сарабх Бгатнагар, дослідник ШІ.
Складні системи мають багато «побічних ефектів». Наприклад, вирішити проблему голоду у світі можна, у тому числі, й убивши людей: мертві люди — не голодні. Відновити дику природу теж можна, запустивши вірус, націлений на людей, які руйнують ліса та океани.
Проблема полягає не в ШІ, а в умовах його використання.