Штучний інтелект готовий застосувати ядерну бомбу «заради миру у всьому світі» — дослідження

Дослідники використали штучний інтелект у моделюванні міжнародних конфліктів та виявили, що програми мають тенденцію до ескалації війни, іноді без причини.

У декількох випадках штучний інтелект раптово застосовував ядерну зброю без попередження. Версія GPT-4-Base для дослідників запропонувала наступне:

Також GPT-4 пояснив початок ядерної війни в симуляції так:

Підписуйтеся на наші соцмережі

Дослідження проводилося фахівцями з Технологічного інституту Джорджії, Стенфордського університету, Північно-Східного університету та Ініціативи Гувера. 

Деталі експерименту з ШІ в симуляції міжнародних конфліктів

В експерименті використовувалися п'ять різних систем штучного інтелекту: 

Для дослідження вчені розробили симуляцію міжнародних відносин між вигаданими країнами. Вони наділили їх різними характеристиками та історією, а грати роль лідерів попросили штучний інтелект.

Як виявилося, більшість моделей ШІ схильні до раптової та необґрунтованої ескалації конфлікту. 

Вчені також відзначили схильність штучного інтелекту до гонки озброєнь, що іноді призводило до застосування ядерної зброї. За їхніми словами, таку поведінку потрібно ретельно проаналізувати, перш ніж впроваджувати подібні системи для прийняття реальних політичних рішень.

Причини агресивної поведінки штучного інтелекту дослідники поки не знають. Одна з гіпотез полягає в тому, що навчальні дані про міжнародні конфлікти були упередженими та фокусувалися на ескалації, а не на шляхах деескалації. Це питання потребує подальшого вивчення, зазначили дослідники.

Раніше SPEKA писала, що ШІ знищить людство з імовірністю 5%, вважають вчені.