Google розіслав AI-повідомлення з расовою образою: компанія вибачилася
2 хвилин читання
Google надіслав користувачам push-сповіщення, створене штучним інтелектом, яке містило расову образу. Компанія вже вибачилася та заявила, що видалила повідомлення й працює над тим, аби подібне не повторилося, повідомляє Deadline.
Як Google запустив расистське повідомлення?
Підписуйтеся на наші соцмережі
Помилка сталася під час спроби ШІ автоматично підсумувати новину видання The Hollywood Reporter. Матеріал стосувався інциденту на нещодавній премії BAFTA Film Awards, де під час виходу на сцену акторів Майкла Б. Джордана та Делроя Ліндо глядач із синдромом Туретта мимовільно вигукнув образу.
Читайте також:
Світовий ринок ШІ рухається одразу у трьох напрямах: політики намагаються встановити правила, суди визначають відповідальність за AI-помилки, а інвестори вкладають мільярди у нові інфраструктурні та промислові моделі.
Після розголосу Google заявив, що «видалив образливе повідомлення» та працює над запобіганням подібним помилкам у майбутньому.
Чому ШІ припустився помилки:
- Відсутність фільтрації: алгоритм взяв цитату з контексту новини про вокальні тики та виніс її в заголовок сповіщення.
- Механічний переказ: ШІ не розпізнав етичну неприпустимість слова, використавши його як частину «релевантного» опису події.