Grok Маска обмежили в Європі через генерацію інтимного контенту

Голландський суд в Амстердамі ухвалив тимчасову заборону для компанії xAI та чат-бота Grok, що належить Ілону Маску, щодо створення та розповсюдження зображень, на яких люди частково або повністю оголені, повідомляє Reuters. 

Це одне з перших рішень в Європі, де суд оцінив відповідальність AI-компанії за інструменти, здатні легко створювати сексуалізовані зображення. 

Підписуйтеся на наші соцмережі

Що відомо про обмеження для Grok

Суд постановив, що xAI та Grok забороняється генерувати або розповсюджувати сексуалізовані зображення людей без їхньої згоди. Штраф за порушення – 100 тис. євро на день. Grok не може пропонуватися на платформі X, поки компанія не виконає рішення.

Рішення було ухвалено після звернення нідерландської неурядової організації Offlimits, що бореться з онлайн-сексуальним насильством, у співпраці з фондом Victims Support Fund.

На слуханні цього місяця адвокати xAI заявили, що компанія не може повністю запобігти зловживанню інструментами Grok і не повинна нести відповідальність за дії зловмисників. Компанія стверджувала, що з січня запровадила обмеження для генерації зображень реальних людей у відвертому одязі, вони доступні лише для платних користувачів.

За словами директора Offlimits Робберта Говінга, демонстрація в суді 9 березня показала, що Grok все ще може “роздягати” цифрові зображення людей без їхньої згоди. Суд постановив, що відповідальність за безпечне використання інструментів лежить на компанії.