Як виявити ШІ-картинку в браузері: Pangram запустив детектор зображень і відео
Інтернет дедалі більше заповнює контент, згенерований ШІ, тож зростає й попит на інструменти, які вміють його виявляти. Компанія Pangram, відома детектором ШІ-текстів, тепер розширила свої можливості на зображення та відео. Щоправда, навіть такі інструменти поки не дають стовідсоткової гарантії, пише Engadget.
Що тепер уміє Pangram
- Раніше сервіс визначав, чи написаний текст штучним інтелектом. Тепер підписники можуть завантажити відео й отримати оцінку, чи створювали або редагували його за допомогою ШІ.
- Сервіс навіть розрізняє, чи ролик повністю згенерований, чи лише частково, і показує «теплову карту» ділянок, які ймовірно є штучними.
- Для зображень компанія випустила розширення для браузера Chrome. Воно сканує картинки прямо під час перегляду сайтів і позначає ті, що схожі на згенеровані ШІ.
- Нові функції вже доступні передплатникам, а безкоштовні акаунти можуть перевірити лише кілька зображень.
Підписуйтеся на наші соцмережі
Наскільки точно Pangram розпізнає ШІ-контент
Тут варто бути обережними, адже всі цифри походять від самої компанії. За її внутрішніми тестами, детектор відео виявляє ШІ-контент із точністю понад 98%, а для зображень компанія заявляє понад 99% при рівні хибних спрацювань 0,27%. Незалежної перевірки цих результатів поки немає.
До того ж є нюанси. За словами гендиректора Pangram Макса Сперо, сучасні смартфони, зокрема iPhone, самі застосовують ШІ для обробки звичайних фото, тож систему довелося спеціально навчати відрізняти таку обробку від повністю згенерованих картинок.
Попри недосконалість, такі інструменти стають дедалі потрібнішими. ШІ-відео й фото все частіше використовують для фейків і маніпуляцій, а відрізнити їх на око стає майже неможливо. Про те, як дізнатися, чи відео створене за допомогою ШІ, і про те, як розпізнати дипфейк і не стати жертвою шахраїв, Speka вже писала.
Головне не покладатися на детектори як на істину в останній інстанції. Вони можуть помилятися в обидва боки: і пропустити підробку, і прийняти справжнє фото за фейк. Тому критичне мислення й перевірка джерел лишаються не менш важливими. Докладніше про саме явище можна почитати в матеріалі про війну дипфейків.