Google AI радить їсти каміння: як компанія бореться з дивними відповідями ШІ

Google уже рік тестує AI Overviews — функцію, запущену в бета-версії у травні 2023 року під назвою Search Generative Experience. Новий продукт викликає занепокоєння через незвичні відповіді на запити користувачів, зокрема абсурдні поради на кшталт споживання каміння.

Про це повідомляє The Verge.

Через це Google намагається вручну вимкнути AI Overviews для певних пошукових запитів, і багато мемів з цими курйозними відповідями зникають незабаром після публікації у соцмережах.

Ця ситуація дивна, враховуючи, що Google уже рік тестує AI Overviews. Генеральний директор Сундар Пічаї заявив, що за цей час компанія обслужила понад мільярд запитів користувачів.

Підписуйтеся на наші соцмережі

Він також зазначив, що Google знизив витрати на надання відповідей штучного інтелекту на 80% завдяки апаратним, інженерним і технічним проривам. Схоже, така оптимізація могла відбутися занадто рано до того, як технологія була готова.

Проте Google продовжує стверджувати, що AI Overview переважно видає користувачам «високоякісну інформацію». І наголосила, що «вживає оперативних заходів» для видалення AI Overviews за певними запитами відповідно до політики щодо вмісту, використовуючи ці випадки для удосконалення систем.

Гері Маркус, експерт із штучного інтелекту та почесний професор нейронауки у Нью-Йоркському університеті, зазначає, що багато компаній продають мрії про те, що технологія перейде з 80% правильності до 100%. За його словами, досягти початкових 80% просто, але остаточні 20% надзвичайно складні.

Конкуренція в галузі ШІ зростає. OpenAI працює над власною пошуковою системою, нові пошукові системи штучного інтелекту оцінюють у мільярд доларів, а молоде покоління користувачів переходить у тікток. Google відчуває тиск конкуренції, що, ймовірно, сприяє безладним випускам AI.