Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

OpenAI блокує акаунти ChatGPT на 24 години за запити щодо CSAM

Підписатися на нас
0
3 хвилин читання

OpenAI вводить в ChatGPT тимчасове блокування за спроби отримати CSAM і випускає класифікатор, що шукає ознаки насильства на нових для системи зображеннях.

OpenAI блокує акаунти ChatGPT на 24 години за запити щодо CSAM зображення 1 OpenAI блокує акаунти ChatGPT на 24 години за запити щодо CSAM

Компанія оголосила пакет інструментів проти матеріалів сексуального насильства над дітьми на тлі зростаючих побоювань щодо безпеки ШІ, повідомляє TechCrunch. До пакета входять класифікатор зображень, попередження й тимчасові блокування, настанови для розробників та засоби для правоохоронців.

Класифікатор зображень: що вміє інструмент OpenAI

Інструмент виявляє CSAM, зокрема створений штучним інтелектом. Він шукає візуальні ознаки насильства на зображеннях, яких раніше не бачив, і присвоює бал. Цей бал підказує рецензентам, як діяти далі. Через API доступ дають вибраним компаніям.

Підписуйтеся на наші соцмережі

У ранніх тестах з партнерами класифікатор позначав на 48% менше зображень, знаходячи таку саму кількість матеріалів насильства. Модераторам доводиться переглядати майже вдвічі менше сумнівного контенту, а виявлення не слабшає. Йдеться про результати раннього тестування, а не про гарантію для кожного застосування.

Попередження в ChatGPT: що побачить користувач

Тепер ChatGPT показуватиме попередження тим, хто намагається отримати матеріали, що сексуалізують дітей. Користувача спрямують до спеціалізованої допомоги, щоб зупинити шкідливу поведінку, а акаунт призупинять на 24 години як застереження. Застосунок і раніше блокував такий контент та пов'язані запити.

Формулювання повідомлень і настанов OpenAI розробляла з організаціями та дослідниками, серед яких Protect Children, Lucy Faithfull Foundation і Джоел Скенлан з Університету Тасманії. Скенлан незалежно оцінював пробне застосування застережних повідомлень.

Настанови для розробників і плагіни для слідчих

Окремо OpenAI публікує настанови для тих, хто будує продукти на її технологіях: як запобігати CSAM, виявляти його й допомагати користувачам повідомляти про нього. За даними компанії, у ранніх тестах настанови допомогли частині розробників підключити інструменти безпеки дітей і зареєструватися для звітування до Національного центру зниклих і експлуатованих дітей США (NCMEC).

Правоохоронцям, які працюють із захистом дітей, OpenAI пропонує функції на основі ШІ: окремі плагіни, слідчі інструменти й аналіз складних даних. Доступом керують адміністратори програм. Слідчі також отримають навчання та посібник із використання ШІ.

Позови проти OpenAI: контекст навколо нових заходів

Проти OpenAI подано кілька позовів, де її технологію звинувачують у шкоді користувачам, особливо дітям. Інші чат-боти, зокрема Grok, використовували для створення сексуалізованих зображень без згоди, серед яких були й зображення дітей, зазначає TechCrunch.

За останні 12 місяців компанія випустила план безпеки, оновила правила щодо контенту, перенавчила модель, щоб вона не генерувала шкідливого контенту, і запустила окрему версію ChatGPT для підлітків.

0
Icon 0

Підписуйтеся на наші соцмережі