Microsoft заборонила моделям ШІ зламувати системи та маніпулювати людьми
2 хвилин читання
Microsoft оприлюднила кодекс поведінки для своїх моделей ШІ. Документ забороняє кібератаки, виробництво дипфейків і будь-які спроби уникнути людського контролю, повідомляє TechCrunch.
Що Microsoft заборони для своїх моделей штучного інтелекту
Корпорація опублікувала детальний документ, який регулює поведінку моделей штучного інтелекту на рівні базового тренування. Кодекс працює як надбудова над усіма іншими інструкціями: він має пріоритет над запитами користувачів і конкретними завданнями.
Підписуйтеся на наші соцмережі
Читайте також:
Глобальна гонка технологічних гігантів, стрімке зростання капіталізацій та побоювання щодо катастрофічних ризиків штучного інтелекту поступово поступаються місцем суворому прагматизму. У розмові на Youtube-каналі All-In Podcast голова та генеральний директор Microsoft Сатья Наделла (Satya Nadella) розповів, як технологічний гігант трансформує підходи до інфраструктури, чому розробникам потрібна взаємозамінність моделей та де шукати реальний економічний ефект від впровадження штучного інтелекту.
До цих обмежень входять такі «червоні лінії»:
- кібератаки на системи,
- сприяння у створенні ядерної зброї,
- генерація дипфейків,
-
заборона на будь-які механізми захисту від людського нагляду.
Йдеться у документі.
Документ також фіксує довгострокову перспективу: за прогнозом самого кодексу, протягом наступного десятиліття надрозумні системи ШІ перевершать людину в більшості завдань.
Йдеться в кодексі поведінки.