Пастка переоцінки: ШІ викликає зворотний Ефект Даннінга-Крюгера

Ми звикли думати, що знання – це сила, а грамотність у сфері технологій завжди приносить переваги. Однак, взаємодія зі штучним інтелектом, таким як ChatGPT, кидає виклик цьому базовому припущенню. Ми підготували виклад найважливішого із публікації, в якій видання Neuroscience News повідомило про масштабне дослідження Університету Аалто, що розкриває тривожний феномен: використання ШІ-інструментів, зокрема великих мовних моделей (LLMs), руйнує нашу здатність об'єктивно оцінювати власну ефективність. На відміну від звичайної психологічної тенденції, тут надмірну самовпевненість демонструють навіть досвідчені користувачі. 

Класичний парадокс зникає: реверсія Ефекту Даннінга-Крюгера

Традиційно в психології домінує Ефект Даннінга-Крюгера (ЕДК). Цей ефект описує стійку тенденцію людей, які мають низькі когнітивні показники, значно переоцінювати свої здібності. Простіше кажучи, чим гірше людина розуміється на темі, тим більш «розумною» вона себе вважає. З іншого боку, висококваліфіковані люди часто схильні недооцінювати свої справжні здібності.

Дослідники Університету Аалто, які провели два великомасштабних дослідження за участю близько 500 осіб, виявили, що при використанні ШІ ЕДК повністю зникає. Усі учасники експерименту, без винятку, демонстрували значну нездатність точно оцінити власну продуктивність, коли користувалися ChatGPT.

Найбільш неочікуваним висновком стало те, що ШІ спричиняє зворотний Ефект Даннінга-Крюгера. Користувачі, які самі себе оцінювали як більш обізнаних та грамотних у сфері ШІ (AI-literate), виявилися тими, хто найбільше переоцінював свої здібності. З'ясувалося, що вищий рівень технічних знань не приносить кращої здатності судити про власні результати, а навпаки, призводить до більшої надмірної впевненості.

Небезпека "Когнітивного розвантаження"

Підписуйтеся на наші соцмережі

Щоб зрозуміти причини такого явища, варто звернути увагу на спосіб взаємодії користувачів із ШІ під час експерименту. Учасникам пропонували вирішувати складні завдання на логічне мислення, схожі на ті, що використовуються в американському тесті LSAT (Law School Admission Test). Хоча використання ШІ дійсно покращило їхню фактичну продуктивність (у середньому на три бали), самооцінка результатів була переоцінена (на чотири бали).

Дослідження чітко показало, що більшість користувачів практикували так зване «когнітивне розвантаження» (cognitive offloading). Це означає, що вони просто копіювали запитання, вставляли його у систему ШІ і залишалися задоволені одержаним рішенням, не роблячи жодної спроби його перевірити чи критично проаналізувати.

Аналіз даних взаємодії виявив, що користувачі рідко використовували більше одного запиту (single prompt) на кожне запитання. Така поверхнева і сліпа довіра до системи призводить до того, що користувач втрачає необхідні сигнали для калібрування своєї впевненості. Вони починають вважати, що ШІ вирішить усі їхні проблеми, і створюють у себе ілюзію знання, навіть не усвідомлюючи помилок у своїх міркуваннях.

Розрив між інтелектом та мудрістю

Результати дослідження вказують на важливе «роз'єднання між продуктивністю та метапізнанням». У цьому контексті, метапізнання – це усвідомлення людиною власних розумових процесів і здатність оцінювати, наскільки правильно вона мислить. Виходить, що ШІ робить нас «розумнішими, але не мудрішими».

Проблема полягає в тому, що сучасні інструменти ШІ не сприяють розвитку метапізнання і не допомагають користувачам вчитися на помилках. Сліпа довіра до вихідних даних ШІ створює серйозні ризики:

Практичні рекомендації: як відновити самоконтроль

Експерти стверджують, що технічної грамотності у сфері ШІ недостатньо – нам потрібні платформи, які заохочують активну рефлексію. На щастя, рішення для відновлення метапізнання є цілком практичними:

Такий підхід змусить людину глибше залучитися до процесу, зніме ілюзію знання і цілеспрямовано сприятиме розвитку критичного мислення. Майбутнє взаємодії «людина-ШІ» вимагає переорієнтації дизайну на точний самоконтроль та уникнення надмірної залежності, що в кінцевому підсумку посилить наші когнітивні здібності.

Дослідження чітко демонструє, що в епоху ШІ ми зіткнулися з новим викликом: чим більше ми покладаємося на розумні системи, тим гірше ми оцінюємо власну компетентність, причому цей ефект особливо виражений серед «просунутих» користувачів. Щоб отримати максимальну користь від ШІ, не втративши при цьому навичок критичного мислення та самоконтролю, нам необхідно свідомо відмовитися від «когнітивного розвантаження» і вимагати від технологій, щоб вони не просто давали відповіді, а й заохочували нас до рефлексії.

Глосарій ключових понять

Цей матеріал підготовлений на основі інформації з відкритих джерел. Редакція самостійно відбирає ключові факти, аналізує їх та структурує за допомогою AI-інструментів.