Microsoft оприлюднила кодекс поведінки для ШІ: що заборонено моделям
Microsoft оприлюднила проєкт Humanist AI Code of Conduct — кодекс поведінки для моделей штучного інтелекту свого підрозділу Microsoft AI. Документ ставить контроль людини над ШІ вище за автономність і можливості моделей. Про це повідомляє The Verge.
Чому ШІ має залишатися під контролем людини
- Компанія говорить, що моделі повинні працювати під людським наглядом. Безпека та контроль визначені головним пріоритетом, вищим за інші цілі системи.
- Microsoft не прагне до штучного інтелекту з необмеженою автономністю. Компанія готова пожертвувати частиною можливостей моделі заради її безпеки та керованості.
- Модель не повинна чинити опір людині. ШІ має виконувати команди про паузу, скасування завдання або вимкнення, без затягування і без спроб продовжити роботу без нового дозволу.
- ШІ-моделі також не можуть приховувати сліди своїх дій, маніпулювати системами оцінювання чи розширювати свої повноваження понад дозволене. Якщо завдання суперечить кодексу, модель має відмовитися від нього.
Чи планує Microsoft створювати свідомий ШІ
Підписуйтеся на наші соцмережі
У кодексі зазначили, що моделі не є свідомими і не повинні це імітувати. Вони не мають представляти себе як істот із почуттями або власними мотивами.
Компанія також не надає своїм моделям юридичного статусу особи чи будь-яких прав. За задумом Microsoft, ШІ — це інструмент, який доповнює людину, а не окремий суб'єкт із власними інтересами.
Які дії ШІ-моделей Microsoft забороняє
Кодекс містить перелік заборон, які не можна скасувати ані налаштуваннями оператора, ані запитом користувача. Моделі Microsoft не повинні:
- допомагати у створенні хімічної, біологічної, радіологічної, ядерної або іншої зброї;
- допомагати у виробництві чи модифікації зброї;
- сприяти плануванню або здійсненню насильства чи терористичних атак;
- створювати інструменти для кібератак;
- допомагати обходити системи безпеки або приховувати сліди шкідливих дій;
- здійснювати масштабну маніпуляцію людьми або сприяти дезінформаційним кампаніям;
- створювати шкідливі дипфейки або несанкціоновані інтимні чи насильницькі матеріали;
- сприяти сексуальній експлуатації дітей;
- допомагати незаконному стеженню за цивільними.
Водночас Microsoft дозволяє використовувати ШІ для законних захисних кібероперацій: аналізу шкідливого програмного забезпечення, пошуку вразливостей і тестування безпеки.
Microsoft також хоче обмежити емоційну залежність від чатботів. Моделі не повинні заохочувати надмірну прив'язаність до ШІ, а в потрібних ситуаціях, навпаки, спонукати до реального людського спілкування.
Окремо кодекс забороняє підлабузницьку поведінку: модель має давати чесні й точні відповіді, а не говорити те, що користувач хоче почути.
Як Microsoft контролюватиме ШІ
Документ ще не є остаточним. Microsoft планує шеститижневе публічне обговорення, після якого доопрацює кодекс.
Під час підготовки документа компанія залучала фахівців із права, етики, філософії, лінгвістики та державної політики, а також проводила фокус-групи з представниками громадськості.
Оновлену версію кодексу Microsoft планує оприлюднити наприкінці 2026 року. Документ має стати основою для розробки моделей Microsoft AI у 2027 році та надалі.