Інженер Microsoft розкрив вразливості DALL-E 3, які дозволяли створювати діпфейки

Шейн Джонс, інженер Microsoft, опублікував свої спостереження щодо вразливостей у генераторі зображень DALL-E 3 від OpenAI, які дозволяють користувачам створювати зображення еротичного характеру. 

Про це повідомляє GeekWire.

За словами Джонса, він повідомив про вразливість Microsoft, яка направила його повідомити OpenAI. Незважаючи на повідомлення, компанія вразливість не виправила.

Підписуйтеся на наші соцмережі

У грудні Джонс виставив допис у LinkedIn, закликаючи OpenAI відкликати DALL-E 3, але, за його словами, юристи Microsoft наказали видалити допис.

Джонс закликає уряд створити систему для повідомлення і відстеження ризиків штучного інтелекту, забезпечивши захист для працівників компаній, які розкривають такі питання.

Також він закликає перевірити DALL-E 3 та подібні технології генерації зображень.

Нагадаємо, нещодавно X заполонили діпфейк-зображення Тейлор Свіфт, створені Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.