Головна Штучний інтелект

ШІ збільшує кількість контенту з сексуальною експлуатацією дітей в інтернеті

17 квітня 2024 11:29 2 хвилин читання

Сексуальна експлуатація дітей в інтернеті зростає та набуває нових форм. Зокрема зображення та відео, згенеровані штучним інтелектом. Про цей свідчать дані американського Національного центру зниклих і експлуатованих дітей (NCMEC), пише The Guardian.

Повідомлення NCMEC про жорстоке поводження з дітьми в інтернеті зросли більш ніж на 12% до 36,2 млн у 2023 році, порівняно із 2022, йдеться в щорічному звіті організації CyberTipline.

Більшість з отриманих повідомлень стосувалися розповсюдженню матеріалів сексуального насильства над дітьми (CSAM), таких як фото чи відео.

Збільшилася кількість повідомлень про сексуальні домагання, коли в онлайні дитину спонукають надіслати оголені зображення чи відео, а потім вимагають гроші.

Підписуйтеся на наші соцмережі

Читайте також: Топ‑5 неймовірних новин про AI за 11 червня, які не можна пропустити

Центр отримав 4,7 тис повідомлень про зображення або відео сексуальної експлуатації дітей, зроблені ШІ. Цю категорію NCMEC почав відстежувати лише у 2023 року.

NCMEC глибоко стурбований швидко зростаючою тенденцією, оскільки зловмисники можуть використовувати штучний інтелект для створення діпфейків або відео відверто сексуального характеру на основі будь-якої фотографії реальної дитини або створювати CSAM із зображенням згенерованих комп’ютером дітей, які беруть участь у графічних сексуальних актах. Для дітей, яких бачать у діпфейках, і їхніх сімей це руйнівно.

йдеться у звіті NCMEC

Загалом у 2023 році CyberTipline отримав понад 35,9 млн повідомлень про випадки ймовірного сексуального насильства над дітьми, понад 90% із них завантажено поза межами США.

Близько 1,1 млн було направлено до поліції США, 63,8 тис повідомлень були терміновими або стосувалися дитини, що перебувала в безпосередній небезпеці.

Платформою, яка надіслала найбільше скарг, став Facebook — 17,8 млн, Instagram надіслав 11,4 млн повідомлень, WhatsApp — 1,38 млн, Google надіслав 1,47 млн скарг, Snapchat — 713 тис, TikTok — 590 тис, а мережа X - 597 тис.