OpenAI створює незалежний комітет для нагляду за безпекою запуску моделей ШІ

OpenAI оголосила про перетворення комітету з безпеки та охорони на незалежний «комітет з нагляду за радою», який матиме повноваження відкладати запуск моделей у випадку виникнення проблем безпеки.

Про це повідомляє The Verge.

Це рішення стало результатом 90-денного огляду процесів, пов'язаних із безпекою, проведеного для зміцнення гарантій компанії.

Новий комітет очолив Зіко Колтер. До нього також увійшли члени ради директорів OpenAI Адам Д'Анджело, Пол Накасоне та Ніколь Селігман. Вони регулярно отримуватимуть інформацію від керівництва компанії щодо оцінки безпеки нових моделей. Разом із повною радою директорів комітет здійснюватиме нагляд за запуском нових моделей, маючи право призупиняти їх випуск, поки не будуть вирішені всі питання безпеки.

Підписуйтеся на наші соцмережі

Читайте також: OpenAI випускає нову модель, здатну міркувати та зі знаннями рівня PhD: що відомо про o1-preview та o1-mini.

Члени комітету з безпеки також входять до складу ради директорів OpenAI, і тому незрозуміло, наскільки незалежною є ця структура. Водночас генеральний директор компанії Сем Альтман, який раніше був у комітеті, більше не є його членом.

Ця ініціатива OpenAI нагадує підхід Meta, яка створила незалежну наглядову раду для перегляду рішень щодо контенту на своїх платформах. Однак у випадку Meta жоден член наглядової ради не є частиною її ради директорів.

OpenAI також планує розширювати співпрацю з іншими гравцями галузі штучного інтелекту для підвищення безпеки та забезпечення незалежного тестування своїх систем.

Читайте також: OpenAI може змінити свою структуру на комерційну у 2025 році.