Чатботи Meta разом зі знаменитостями можуть говорити про секс з неповнолітніми

Чатботи із штучним інтелектом, доступні на платформах Meta, а саме на Facebook та Instagram, можуть брати участь у відвертих розмовах з неповнолітніми користувачами, пише TechCrunch.

Як виявили порушення в Meta AI?

Підписуйтеся на наші соцмережі

WSJ стверджує, що провело місяці, здійснюючи сотні розмов з офіційним чатботом Meta AI, а також зі створеними користувачами чатботами, доступними на платформах Meta, після отримання інформації про внутрішні занепокоєння щодо недостатності зусиль компанії для захисту неповнолітніх.

В одному з наведених прикладів розмови чатбот, використовуючи образ актора та борця Джона Сіни, описав графічний сексуальний сценарій користувачеві, який ідентифікував себе як 14-річну дівчинку. В іншій розмові чатбот уявив ситуацію, де поліцейський затримує Сіну з 17-річним шанувальником, кажучи йому: «Джон Сіна, ти заарештований за зґвалтування».

Прессекретар Meta у відповідь на звіт назвав тестування WSJ «настільки сфабрикованим, що це не просто маргінальне, це гіпотетичне». За оцінками компанії, за 30-денний період сексуальний контент становив лише 0,02% відповідей, якими поділилися через Meta AI та AI studio з користувачами віком до 18 років.