Президент OpenAI заявив, що потрібно повідомляти урядам про тренування нових моделей ШІ

У своїй заяві президент і співзасновник OpenAI Грег Брокман розповів, що на тестування беспечності GPT-4 пішло півроку.

Грег Брокман пише у Twitter, що кожна наступна мовна модель, яка створена OpenAI, має кращі показники безпеки за попередню і що про тестування ШІ потрібно повідомляти урядам.

«Ми вважаємо (і говорили під час політичних дискусій з урядами), що про потужні тренувальні запуски потрібно повідомляти урядам. Тести потрібно супроводжувати дедалі складнішими прогнозами щодо можливостей та впливу моделей та вимагати найкращих практик, таких як тестування небезпечних можливостей. Ми вважаємо, що управління великомасштабним використанням обчислювальної техніки, стандарти безпеки та регулювання/обмін уроками під час розгортання є гарними ідеями, але деталі справді мають значення та повинні адаптуватися з часом у міру розвитку технології», — вважає Брокман.

Раніше Грег Брокман демонстрував деякі можливості та обмеження нової моделі GPT-4 після її релізу.