Фактчекери Google Bard не встигають перевіряти відповіді ШІ

Працівники, які відповідають за покращення роботи чатбота Bard компанії Google, стверджують, що їм сказали зосередитися на швидкості роботи, незалежно від якості. Bard іноді генерує неточну інформацію просто тому, що фактчекерам недостатньо часу, щоб перевірити інформацію, повідомляє The Register.

Великі мовні моделі, такі як Bard, вивчають, які слова варто генерувати після певного запиту, шляхом аналізу величезної кількості тексту з різних джерел, таких як інтернет, книги і статті. Але ця інформація складна, і самі чатботи не можуть розрізнити факти від художньої літератури.

З метою зробити великі мовні моделі, такі як Bard, більш точними, наймають спеціалістів для оцінки точності відповідей бота. Ця інформація потім повертається до системи, щоб майбутні відповіді бота були вищої якості.

Ед Стакхаус, який працює від імені Google над покращенням Bard, стверджує, що працівникам не надають достатньо часу на аналіз точності виводів Bard.

Їм потрібно прочитати вхідні запити і відповіді Bard, шукати в інтернеті відповідну інформацію і писати замітки про якість тексту. На все це вони мають до 2 хвилин.