Anthropic порівняла регулювання ШІ з ядерними угодами: у чому причина

Anthropic заявила про необхідністьуповільнення темпів розвитку штучного інтелекту через ризики втрати контролю над майбутніми системами, які можуть вийти з-під контролю, пише Engadget.

Чому Anthropic хоче уповільнити розвиток ШІ

У своїй позиції Anthropic зазначає, що розвиток штучного інтелекту відбувається настільки швидко, що в перспективі системи можуть отримати здатність розробляти власні покращені версії.

Підписуйтеся на наші соцмережі

Хоча компанія визнає, що наразі це лише гіпотетичний сценарій, вона попереджає: такий етап може настати раніше, ніж до нього будуть готові державні інституції та суспільство.

У компанії наголошують, що подібні системи потенційно здатні принести значну користь — зокрема у сфері науки, медицини та досліджень. Але вони також несуть ризики втрати контролю над автономними алгоритмами, що може створити небажані наслідки для безпеки.

Коли ШІ стане новою ядерною зброєю

Як можливий запобіжний захід Anthropic пропонує розглянути ідею глобального уповільнення або тимчасової паузи у розвитку найпотужніших моделей штучного інтелекту. Йдеться про створення умов, за яких дослідження безпеки та механізмів узгодження розвитку ШІ встигатимуть за темпами технологічного прогресу.

У компанії підкреслюють, що для реалізації такого підходу необхідна міжнародна координація між провідними лабораторіями у різних країнах. Без узгоджених дій існує ризик, що окремі гравці ринку можуть продовжити розробки без обмежень, отримавши конкурентну перевагу.

Anthropic порівнює можливий підхід до регулювання з міжнародними договорами у сфері ядерної безпеки.

Водночас деякі експерти вважають, що такі заяви можуть бути частиною маркетингової стратегії компанії, яка активно розвиває власні моделі штучного інтелекту та готується до виходу на біржу.