Головна Оперативка

Інженер Microsoft розкрив вразливості DALL-E 3, які дозволяли створювати діпфейки

1 хвилин читання

Шейн Джонс, інженер Microsoft, опублікував свої спостереження щодо вразливостей у генераторі зображень DALL-E 3 від OpenAI, які дозволяють користувачам створювати зображення еротичного характеру. 

Про це повідомляє GeekWire.

За словами Джонса, він повідомив про вразливість Microsoft, яка направила його повідомити OpenAI. Незважаючи на повідомлення, компанія вразливість не виправила.

Підписуйтеся на наші соцмережі

У грудні Джонс виставив допис у LinkedIn, закликаючи OpenAI відкликати DALL-E 3, але, за його словами, юристи Microsoft наказали видалити допис.

Читайте також: OpenAI планує суттєво знизити вартість токенів — одиниць, якими вимірюється і тарифікується використання ШІ-моделей. Компанія готується до цього кроку, побоюючись, що Anthropic зробить аналогічний хід першою. Якщо це станеться, ШІ для бізнесу може стати помітно доступнішим, пише Android Authority. 

Джонс закликає уряд створити систему для повідомлення і відстеження ризиків штучного інтелекту, забезпечивши захист для працівників компаній, які розкривають такі питання.

Також він закликає перевірити DALL-E 3 та подібні технології генерації зображень.

Нагадаємо, нещодавно X заполонили діпфейк-зображення Тейлор Свіфт, створені Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.

Інші матеріали

Microsoft OpenAI DALL-E Редакція
Читати на speka.media