Google розіслав AI-повідомлення з расовою образою: компанія вибачилася
Google надіслав користувачам push-сповіщення, створене штучним інтелектом, яке містило расову образу. Компанія вже вибачилася та заявила, що видалила повідомлення й працює над тим, аби подібне не повторилося, повідомляє Deadline.
Як Google запустив расистське повідомлення?
Підписуйтеся на наші соцмережі
Помилка сталася під час спроби ШІ автоматично підсумувати новину видання The Hollywood Reporter. Матеріал стосувався інциденту на нещодавній премії BAFTA Film Awards, де під час виходу на сцену акторів Майкла Б. Джордана та Делроя Ліндо глядач із синдромом Туретта мимовільно вигукнув образу.
Після розголосу Google заявив, що «видалив образливе повідомлення» та працює над запобіганням подібним помилкам у майбутньому.
Чому ШІ припустився помилки:
- Відсутність фільтрації: алгоритм взяв цитату з контексту новини про вокальні тики та виніс її в заголовок сповіщення.
- Механічний переказ: ШІ не розпізнав етичну неприпустимість слова, використавши його як частину «релевантного» опису події.
0
Підписуйтеся на наші соцмережі
Спільнота
Пиши на SPEKA!
Будь в курсі зі SPEKA!
Раз на тиждень ми будемо відправляти вам найцікавіші редакційні матеріали.
