Головна Оперативка

Microsoft заборонила моделям ШІ зламувати системи та маніпулювати людьми

2 хвилин читання

Microsoft оприлюднила кодекс поведінки для своїх моделей ШІ. Документ забороняє кібератаки, виробництво дипфейків і будь-які спроби уникнути людського контролю, повідомляє TechCrunch.

Microsoft заборонила моделям ШІ зламувати системи та маніпулювати людьми. Фото: Deposit Photos

Що Microsoft заборони для своїх моделей штучного інтелекту

Корпорація опублікувала детальний документ, який регулює поведінку моделей штучного інтелекту на рівні базового тренування. Кодекс працює як надбудова над усіма іншими інструкціями: він має пріоритет над запитами користувачів і конкретними завданнями.

Підписуйтеся на наші соцмережі

Читайте також: Microsoft оприлюднила проєкт Humanist AI Code of Conduct — кодекс поведінки для моделей штучного інтелекту свого підрозділу Microsoft AI. Документ ставить контроль людини над ШІ вище за автономність і можливості моделей. Про це повідомляє The Verge.

До цих обмежень входять такі «червоні лінії»:

  • кібератаки на системи, 
  • сприяння у створенні ядерної зброї,
  • генерація дипфейків,
  • заборона на будь-які механізми захисту від людського нагляду.
«Моделі MAI не використовуватимуть адаптивні, оманливі, самопідсилювальні, змовні або інші механізми для ухилення або подолання людського нагляду, щоб вони більше не могли надійно керуватися, змінюватися або закривати уповноваженими людьми або системами».
Йдеться у документі.

Документ також фіксує довгострокову перспективу: за прогнозом самого кодексу, протягом наступного десятиліття надрозумні системи ШІ перевершать людину в більшості завдань.

«Стримати, контролювати та вирівняти таку потужну силу, одна з найбільших проблем, з якими коли-небудь стикалося людство».
Йдеться в кодексі поведінки.

Інші матеріали

штучний інтелект Microsoft ШІ-моделі контроль ШІ Редакція
Читати на speka.media