Чи дійсно ChatGPT робить нас дурними та ледачими? Насправді ні, але про все по порядку

Вчені МІТ презентували результати дослідження про те, як ШІ впливає на когнітивні здібності та критичне мислення. Для цього провели дослідження на трьох контрольних групах студентів, одна з яких писала есе з використанням ChatGPT, друга — лише з Google (без ШІ), а третя — лише власними знаннями, без будь-якої допомоги.

Результати дослідження розлетілися мережею, їх підхопили ЗМІ та блогери. Часто використовували гучні та сенсаційні заголовки на кшталт «ChatGPT руйнує мозок». Але чи так це насправді?

Від моменту дебюту ChatGPT у 2022 році генеративний ШІ швидко інтегрувався у наше життя — робоче, навчальне та особисте. Він допомагає пришвидшувати дослідження, створювати контент та виконувати безліч інших завдань у небаченому раніше темпі.

Ентузіазм довкола генеративного ШІ почав очікувано стрімко зростати від самого початку — його поширення відбувалося навіть швидше, ніж колись інтернету чи персональних комп’ютерів. Та водночас експерти застерігають: рухатися слід обережно. Як і будь-яка нова технологія, Gen AI здатен дати суспільству потужний поштовх у багатьох напрямах, але за відсутності контролю може спричинити й небажані наслідки.

Про це, зокрема, говорить Наташа Говендер-Ропер, керівниця напряму ШІ у сфері фінансових злочинів у Rabobank. Вона долучилася до засновника TNW Бориса Вельдхейзена ван Зантена у новому епізоді «Kia’s Next Big Drive», щоб поговорити про етику ШІ, упередженість алгоритмів і про те, чи не віддаємо ми власне мислення машинам.

Повне інтерв’ю — записане дорогою на TNW2025 у повністю електричному Kia EV9 — можна переглянути тут:

https://www.youtube.com/watch?v=2G0SfeMEy_4&t=2s

Одне з питань, яке варто ставити собі дедалі частіше у час, коли ми все більше звертаємося до генеративного ШІ по відповіді: який вплив може мати така залежність на наш власний інтелект?

Нещодавнє дослідження MIT (Массачусетського технологічного інституту) стосовно використання ChatGPT для написання есе викликало хвилю гучних заголовків — від «Дослідники кажуть, що ChatGPT може роз’їдати мозок» до «ChatGPT робить нас лінивими та дурними». Але чи справді це так?

Підписуйтеся на наші соцмережі

Як це було: дослідники дали завдання 54 студентам з Бостона написати есе. Перша група використовувала ChatGPT, друга — Google (без ШІ), а третя мала написати есе винятково власними силами. Під час роботи їхня мозкова активність вимірювалася за допомогою електродів.

Після трьох сесій найбільшу активність мозкових зв’язків показала саме та група, яка писала без допомоги гугла та ШІ. Користувачі ChatGPT — найнижчу. Здається, ті, хто писав із допомогою ШІ, працювали на автопілоті, тоді як інші мусили докладати більше зусиль, щоб сформулювати думки на папері.

У четвертому раунді ролі змінилися. Цього разу група, яка використовувала тільки мозок, отримала доступ до ChatGPT, а ті, хто використовував ШІ, мусили працювати самостійно. Результат? Перші покращили свої есе, другі ж ледве пригадували, що писали раніше.

Вчителі англійської, які перевіряли роботи, відзначили: у текстах бракує оригінальних думок та «душі». Звучить тривожно, чи не так? Можливо, та насправді все складніше, ніж подають сенсаційні заголовки.

Результати дослідження стосувалися не стільки погіршення роботи мозку, скільки скорочення розумової діяльності. Результати показали, що надмірна залежність від LLM може знизити розумову активність. Та за активного й усвідомленого використання цих ризиків можна уникнути. Дослідники також наголосили, що, попри цікаві спостереження, які можуть стати підґрунтям для подальших досліджень, воно було надто невеликим і спрощеним, щоб робити остаточні висновки.

Попри те що результати (які ще не пройшли рецензування), безумовно, потребують подальших досліджень і глибшого осмислення того, як ми маємо використовувати цей інструмент у навчанні, роботі та повсякденному житті, можливо тим, що справді руйнує наш мозок, є заголовки у стилі TLDR [too long; didn't read], створені для кліків, а не для точності.

Схоже, дослідники поділяють ці побоювання. Вони створили сайт із розділом FAQ, де закликали журналістів уникати неточних і сенсаційних формулювань, які спотворюють їхні висновки.

З FAQ до дослідження «Ваш мозок і ChatGPT: накопичення когнітивного боргу» під час використання ШІ-асистента для написання есе:

Іронічно, але самі дослідники пояснили появу цього «шуму» тим, що журналісти використовували LLM для стислого викладу їхньої роботи. І додали: «Ми будемо раді ЛЮДСЬКИМ відгукам, якщо ви прочитаєте статтю або її частини. Також нагадуємо, що дослідження має перелік обмежень, які ми чітко вказали як у самій статті, так і на сайті».

З цього дослідження можна зробити два висновки:

«Студенти можуть ставати менш схильними самостійно проводити глибокий чи всеохопний пошук інформації, оскільки вони покладаються на авторитетний та інформований тон результатів GenAI. Вони можуть рідше ставити під сумнів або навіть виявляти приховані перспективи, що лежать в основі відповідей ШІ, й не замислюватися над тим, чиї погляди залишаються поза увагою та які припущення лежать в основі тверджень» — йдеться в дослідженні «Critical thinking in the age of generative AI» Амстердамського вільного університету.

Ці ризики свідчать про глибшу проблему ШІ. Якщо ми сприймаємо його відповіді за чисту монету, можемо не помітити приховані упередження та беззаперечні припущення. Вирішення цієї проблеми потребує не лише технічних виправлень, а й критичного осмислення того, що ми взагалі маємо на увазі під «упередженням».

Ці питання є ключовими у роботі Наташі Говендер-Ропер, керівниці напряму ШІ у сфері фінансових злочинів у Rabobank. Її завдання — створювати відповідальний і надійний штучний інтелект, виявляючи й усуваючи упередження. Втім, як вона зауважила у розмові із засновником TNW Борисом Вельдхейзеном ван Зантом у програмі «Kia’s Next Big Drive», саме поняття «упередженість» є суб’єктивним й потребує окремого визначення для кожної людини й кожної компанії.