YouTube боротиметься з діпфейками: як платформа розширює інструмент виявлення підроблених відео
YouTube розширює використання інструменту, який дозволяє виявляти відео, де штучний інтелект імітує зовнішність реальних людей — так званих “діпфейків”. Йдеться про державних службовців, політичних кандидатів та журналістів.
Про це повідомляє Axios.
Рішення з’являється на тлі стрімкого розвитку технологій діпфейків, які дедалі легше створювати за допомогою сучасних систем ШІ.
Що відомо про боротьбу YouTube з діпфейками
Представники платформи зазначають, що новий етап роботи інструменту спрямований на захист публічної дискусії та запобігання маніпуляціям у медіапросторі.
Підписуйтеся на наші соцмережі
Останні роки технології штучного інтелекту значно спростили створення реалістичних підроблених відео. Такі ролики можуть переконливо імітувати обличчя або голос відомих людей — політиків, журналістів чи знаменитостей.
Зокрема, у мережі регулярно з’являються відео, де штучний інтелект відтворює образ Дональда Трампа, що викликає занепокоєння через потенційний вплив на політику та суспільну думку.
За словами віцепрезидентки YouTube із державної політики Леслі Міллер, новий інструмент має допомогти зберегти довіру до онлайн-обговорень.
Інструмент YouTube використовує технологію розпізнавання схожості. Вона сканує відео, які завантажують на платформу, та шукає збіги з обличчям конкретної людини.
Якщо система знаходить потенційне використання чужої зовнішності людину повідомляють про знайдений контент, вона може переглянути відео та після цього можна подати запит на видалення через процедуру скарги щодо конфіденційності.
Однак видалення не гарантоване. Платформа дозволяє використання образів у межах пародії, сатири або творчого контенту. Щоб отримати доступ до системи, користувачі повинні підтвердити свою особу — надати державне посвідчення та відеоселфі.
Тепер YouTube планує розширити доступ до інструменту для ширшого кола людей, зокрема:
- державних службовців;
- політичних кандидатів;
- журналістів.
Поки що система аналізує лише обличчя, але компанія вже працює над технологіями, які дозволять виявляти імітацію голосу.
Розширення інструментів боротьби з діпфейками може стати одним із ключових факторів у протидії маніпуляціям в інтернеті.
З розвитком генеративного ШІ межа між реальним відео та штучно створеним контентом стає дедалі менш очевидною. Саме тому великі технологічні платформи намагаються створити нові механізми захисту користувачів і публічних осіб.