Співробітники OpenAI, які відповідають за безпеку ІІ, звільняються з компанії

Співробітники OpenAI, які відповідають за те, щоб штучний інтелект не вийшов з-під контролю, залишають компанію, передає Quartz.

OpenAI створила свою команду Superalignment майже рік тому з кінцевою метою контролювати гіпотетичні надрозумні системи штучного інтелекту та не допускати їхнього повстання проти людей. Звичайно, багато хто був стурбований: навіщо взагалі потрібна така команда?

Тепер сталося щось більш тривожне: лідери команди Ілля Суцкевер та Ян Лейке щойно покинули OpenAI. Відставка керівництва Superalignment є останньою в серії помітних звільнень у компанії, деякі з яких відбулися всередині команди Суцкевера та Лейке, яка займається питаннями безпеки.

Члени команди Superalignment Леопольд Ашенбреннер та Вільям Сондерс у листопаді 2023 року не підтримали Сема Альтмана, якого усунули з позиції гендиректора, а потім повернули на посаду. Пізніше стало відомо, що Ашенбреннер та Сондерс також покинули компанію. Безпека OpenAI завжди викликала розбіжності. Саме це спонукало Даріо та Даніелу Амодей у 2021 році заснувати власну компанію в галузі штучного інтелекту Anthropic разом із дев'ятьма іншими колишніми співробітниками OpenAI.

Повідомляється, що саме питання безпеки стали приводом для розбіжностей між Семом Альтманом та іншими членами ради директорів.