Уряд Австралії сплатив $400 тис. за звіт з вигаданими ШІ фактами

Австралійський уряд отримає часткове відшкодування від Deloitte, після того як у звіті консалтингової компанії на суму $440 тис. виявили численні вигадані посилання та помилки, створені ШІ, пише The Guardian.

Що не так зі звітом Deloitte?

Deloitte погодилася частково повернути федеральному уряду кошти за звіт, у якому були знайдені численні неточності. Документ підготували для Департаменту зайнятості та трудових відносин Австралії (DEWR) у грудні 2024 року й стосувався перевірки системи відповідності та ІТ-інфраструктури, яка автоматизує накладання штрафів на безробітних, що не виконують свої зобов’язання.

Підписуйтеся на наші соцмережі

У липні 2025 року звіт опублікували, але пізніше журналісти Australian Financial Review виявили у ньому неіснуючі цитати, фіктивні джерела та судові справи. Серед прикладів — вигадані дослідження університетів Сіднея та Лунда, а також неіснуюче судове рішення у справі про аероборд. Звіт також містив «галюцинації» ШІ — коли великі мовні моделі заповнюють прогалини вигаданими даними. 

Deloitte визнала, що частину матеріалів створили за допомогою Azure OpenAI GPT-4o, проте компанія заявила, що це не вплинуло на висновки. Представники компанії зазначили, що питання було врегульовано безпосередньо з урядом.

Сенаторка від лейбористів Дебора О’Ніл розкритикувала інцидент, назвавши його «проблемою людського інтелекту».

Попри помилки, незалежний огляд підтвердив, що основні рекомендації Deloitte залишилися без змін.