Головна Штучний інтелект

OpenAI запускає новий проєкт з безпеки штучного інтелекту

1 хвилин читання

За словами CEO OpenAI Сема Альтмана, його компанія створює нову команду для оцінки, прогнозування та захисту від ризиків ШІ.

Нова команда має назву Preparedness (Пiдготовленiсть) та очолює її Олександр Мадрі, професор Массачусетського технологічного інституту. 

Проєкт базується на понятті підготовленості до можливих сценаріїв, коли ШІ буде використовуватися для шкоди, як зараз, так і в майбутньому.

Підписуйтеся на наші соцмережі

Команда допоможе відстежувати, оцінювати, прогнозувати та захищати від катастрофічних ризиків використання ШІ.

Читайте також: Штучний інтелект може перевершити сукупний інтелект людства приблизно за п’ять років, а через десять років люди, ймовірно, вже не контролюватимуть найрозумніші системи. Такий прогноз Ілон Маск озвучив у розмові з головною редакторкою The Economist Занні Мінтон Беддоуз на YouTube-каналі видання. Попри ризики, найімовірнішим результатом він називає «добу дивовижного достатку».

Місія команди Preparedness також включає розробку та підтримку політики ризико-орiєнтованої розробки (RDP).

RDP детально описує пiдхiд OpenAI до розробки суворих оцiнок можливостей та монiторингу передових моделей ШІ, створення спектру захисних заходiв та встановлення структури управлiння для забезпечення вiдповiдальностi та нагляду на протязi всього процесу розробки.

Інші матеріали

ШІ OpenAI Сем Альтман Preparedness Редакція
Читати на speka.media