Microsoft закрила лазівку в Designer, через яку нібито створювалися дипфейки Тейлор Свіфт
Компанія Microsoft запровадила додаткові засоби захисту для ШІ-генератора зображень Designer, який люди нібито використовували для створення сексуальних дипфейків знаменитостей.
Про це пише 404 Media.
Раніше видання повідомляло, що згенеровані штучним інтелектом зображення оголеної Тейлор Свіфт, які минулого тижня стали вірусними в соцмережі X, спершу з’явилися на 4chan та в Telegram-каналі. Для їхнього створення автори нібито використовували Designer.
В Microsoft повідомили, що вивчають ці повідомлення. За словами представника компанії, Кодекс поведінки забороняє використання інструментів для створення інтимного контенту.
Також представник Microsoft повідомив, що наразі триває розслідування. Однак компанія поки що не знайшла жодних підтверджень, що дипфейки Свіфт створили саме за допомогою Designer.
Підписуйтеся на наші соцмережі
Проте компанія посилила фільтри для підказок, щоб користувачі не могли зловживати сервісом. В інтерв’ю NBC News генеральний директор Microsoft Сатья Наделла назвав це «нашим обов'язком».
Чи правда Microsoft Designer створював порнографічні дипфейки знаменитостей
Згідно з результатами тестування, проведеного 404 Media, лазівки для створення оголених дипфейків в Microsoft Designer більше не працюють. Про це ж повідомляють користувачі 4chan і Telegram-каналу.
Designer і так не дозволяв створювати зображення з текстовими підказками на кшталт «Тейлор Свіфт оголена». Але користувачі Telegram-каналу та 4chan стверджують, що обійшли захист, трохи неправильно написавши ім'я знаменитостей та описавши зображення без прямого використання сексуальних термінів.
В 404 Media перевірили цей метод. За словами журналістів, він працював ще у четвер, до того, як Microsoft внесла свої зміни.
Telegram ніяк не реагує на поширення шкідливого контенту
Видання не стало повідомляти назву Telegram-каналу, який розповсюджує оголені дипфейки знаменитостей. Ба більше, журналісти відзначили відсутність будь-якої реакції адміністрації месенджера на наявність подібного контенту на їхній платформі.
За словами журналістів, Telegram-канал досі поширює згенеровані штучним інтелектом сексуальні зображення реальних людей. Деякі з них, ймовірно, створені за допомогою інших інструментів ШІ, а деякі взяті з інших сайтів.
Проте користувачі вже шукають нові лазівки, які дозволять знову використовувати безплатний Microsoft Designer для генерації такого шкідливого контенту.
Раніше SPEKA писала, що у США закликали заборонити порнодипфейки на тлі скандалу з Тейлор Свіфт.