Microsoft оприлюднила кодекс поведінки для ШІ: що заборонено моделям

Microsoft оприлюднила проєкт Humanist AI Code of Conduct — кодекс поведінки для моделей штучного інтелекту свого підрозділу Microsoft AI. Документ ставить контроль людини над ШІ вище за автономність і можливості моделей. Про це повідомляє The Verge.

Чому ШІ має залишатися під контролем людини

Чи планує Microsoft створювати свідомий ШІ

Підписуйтеся на наші соцмережі

У кодексі зазначили, що моделі не є свідомими і не повинні це імітувати. Вони не мають представляти себе як істот із почуттями або власними мотивами.

Компанія також не надає своїм моделям юридичного статусу особи чи будь-яких прав. За задумом Microsoft, ШІ — це інструмент, який доповнює людину, а не окремий суб'єкт із власними інтересами.

Які дії ШІ-моделей Microsoft забороняє

Кодекс містить перелік заборон, які не можна скасувати ані налаштуваннями оператора, ані запитом користувача. Моделі Microsoft не повинні:

Водночас Microsoft дозволяє використовувати ШІ для законних захисних кібероперацій: аналізу шкідливого програмного забезпечення, пошуку вразливостей і тестування безпеки.

Microsoft також хоче обмежити емоційну залежність від чатботів. Моделі не повинні заохочувати надмірну прив'язаність до ШІ, а в потрібних ситуаціях, навпаки, спонукати до реального людського спілкування.

Окремо кодекс забороняє підлабузницьку поведінку: модель має давати чесні й точні відповіді, а не говорити те, що користувач хоче почути.

Як Microsoft контролюватиме ШІ 

Документ ще не є остаточним. Microsoft планує шеститижневе публічне обговорення, після якого доопрацює кодекс.

Під час підготовки документа компанія залучала фахівців із права, етики, філософії, лінгвістики та державної політики, а також проводила фокус-групи з представниками громадськості.

Оновлену версію кодексу Microsoft планує оприлюднити наприкінці 2026 року. Документ має стати основою для розробки моделей Microsoft AI у 2027 році та надалі.