Дипфейки проти живих людей: наглядова рада Meta вимагає посилити захист користувачів
Наглядова рада Meta зобов’язала компанію видалити з фейсбуку два відео, створені за допомогою штучного інтелекту. Рада також заявила, що нинішні правила Meta щодо ШІ-дипфейків недостатні та рекомендувала компанії посилити боротьбу з таким контентом, пише The Guardian.
Що було не так з видаленими відео
Наглядова рада Meta, яку журналісти давно називають «верховним судом» компанії, винесла рішення у справі двох дипфейків:
Підписуйтеся на наші соцмережі
- фейкового відео шотландського радника від Лейбористської партії,
- маніпулятивного ролика з мусульманською активісткою, яка займається просвітою щодо менструального здоров'я.
В обох випадках фейсбук спершу вирішив, що порушень немає. Рада з цим категорично не погодилась.
У ролику про радника штучний інтелект вклав йому в уста фразу про біженців і «зґвалтування наших жінок» — цитата, яку політик ніколи не вимовляв. Рада вказала на очевидну ознаку підробки, звук не синхронізувався з рухами обличчя.
В іншому випадку йшлося про молоду мусульманку в Європі, яка бере участь у кампанії з підвищення обізнаності про менструальне здоров’я та зменшення стигми щодо здоров’я жінок і дівчат з етнічних меншин.
За допомогою ШІ її зображення використали у відео, де жінку неправдиво показували під час абсурдних фізичних вправ та вживання шкідливої їжі.
Наглядова рада визнала такий контент порушенням правил Meta щодо булінгу та домагань і зобов’язала компанію видалити відео.
Які зміни запропонували Meta
Після розгляду цих справ Наглядова рада рекомендувала Meta посилити правила щодо ШІ-дипфейків. Серед пропозицій:
- частіше застосовувати позначки про високий ризик введення в оману;
- зменшувати поширення такого контенту через алгоритми рекомендацій;
- запровадити попередження перед переглядом окремих ШІ-матеріалів;
- застосовувати суворіші заходи до акаунтів, які регулярно поширюють оманливі ШІ-відео;
- більше розкривати інформацію про те, коли та чому контент отримує позначку про використання ШІ;
- розширити визначення небажаних маніпулятивних зображень, щоб воно охоплювало дипфейки приватних людей, яких неправдиво показують такими, що роблять або говорять те, чого вони насправді не робили чи не говорили.