Темний і світлий бік ШІ у навчанні

Мене звати Андрій Черніков, я співпрацюю з ЕРАМ Україна як старший .NET інженер, а також викладаю технології у приватній школі Кайзен в Івано-Франківську. Хоча предмет “Технологія” — це успадкований предмет “Праця”, в нашому навчанні ми даємо дещо більше, прикладні знання, які знадобляться у житті. Це базові знання в плануванні, менеджменті, комунікаціях, публічних виступах, фінансах та макроекономіці. Тепер до цього переліку потрапив і штучний інтелект. Річ, яка з нами, безумовно, назавжди.

І вже цього року, коли основні галюцинації пройшли, математичні завдання стали вирішуватись на відмінно, а ChatGPT більше говорить правду і досить релевантну,  основною потребою стало створення правил гри. Бо ігнорувати ШІ не вийде, а забороняти — не дуже ефективно. 

Найбанальніший спосіб застосовувати ChatGPT школярем: делегувати йому задачу. Дати тести, домашку та отримати оцінку. Нуль зусиль. Якийсь — скоріш за все ідеальний — результат виконання. Бо це ж рівень школи, завдання там нескладні. І цей спосіб застосування називається procedural. І якраз його я пропоную забороняти. 

Навчання — це зусилля, а в procedural застосуванні учень випадає з процесу, він не сприймає інформацію, не аналізує її, якщо говорити зовсім технічно -  в його голові не будуються нові нейронні зв’язки. Власне, тут навчання не стається.

Але є й інший спосіб — використати ШІ як джерело знань. Коли ми отримуємо домашнє завдання, то для його вирішення нам необхідно мати певний контекст. Це розділ в підручнику, приклади виконання, знання як вирішувати ту чи іншу задачу. Частину цього контексту вчитель дає на уроці, викладає його і вимагає уваги. Часто, чи то в ранній час, чи то в пообідній, мозок учня не дуже сприймає інформацію й тому закріплення матеріалу йде в процесі виконання домашнього завдання. В цей момент ШІ може стати тим вчителем з уроку. Цей спосіб використання називається mastering. Так ШІ може допомогти в навчанні, не замінивши учня та сам процес, а підмінивши вчителя, а почасти батьків, які допомагають робити домашнє завдання.

Підписуйтеся на наші соцмережі

Ці два підходи хоч і не схожі, але можуть бути поєднані у процесі. Тобто ми робимо домашнє завдання і запам’ятали якийсь певний факт чи правило використання, а в процесі у нас є можливість трішечки підгледіти — то це ще mastering чи вже procedural?Я послуговуюсь правилами шахів. Комп’ютер переміг людину в шахи ще в 1997 році, і з того часу змагання в партії “людина з комп’ютером” — “супергросмейстер” є абсолютно беззмістовним. Але грати продовжують, без комп'ютера. Всю потужність процесорів використовують в підготовці і постаналізі. Тому і процес виконання домашнього завдання повинен мати безперечний “чистий” час без ШІ. Чи вплине це на кількість помилок? Так, помилок буде більше. І тут треба визнати, що помилки — це “дружні” агенти навчання, їх присутність скеровує в потрібну сторону.

Іншою стороною є етична складова ШІ та алгоритмічна упередженість.  Массачусетський технологічний університет провів дослідження, суть якого полягає у тому, що рішення, яке є найкращим, найкраще для когось, але не для всіх. Що для вас -  найкращий сендвіч? Найсмачніший чи найздоровіший, чи має там бути багато соусів, чи клітковини завдяки зелені? Так і ШІ, як система, що працює з вже заздалегідь складеними та (увага!) навченими алгоритмами, має певну  упередженість, який сендвіч найкращий. Звісно, цей приклад безпечний, але коли ми покладаємось на результат ШІ, і він виглядає прийнятним раз за разом, то ми приймаємо його без вагань в подальшому. 

Прикладом такої небезпечної взаємодії є використання Youtube, який розроблено для розваги аудиторії. Але його справжня мета, яку можуть ставити стейкхолдери (тобто зацікавлені персони, які отримують зиск від його використання) — це утримання уваги користувачів, що конвертується в показ реклами, а вже вона — в реальні прибутки. Тому, наприклад, функція автоматичного програвання там є, а функції повного і ефективного управління батьківським контролем (навіть у Youtube Kids) немає.

Наведу приклад, коли ми питаємо ШІ про якусь тему і він намагається дати відповідь, яка нам сподобається. Скажімо, спитаємо про ефект Даннінга-Крюгера. Коротко його можна розтлумачити так: “коли люди з низьким рівнем знань переоцінюють свою компетентність”. Власне, коли ми про це запитуємо у ChatGPT, то там буде десь такий графік 

Тут описано, що таке Вершина Гори Глупства, Долина Відчаю, Схил Просвітлення. Ця інтерпретація — досить мемна штука, багато хто про неї знає. Але насправді в роботі науковців Даннінга і Крюгера нічого такого немає. Немає там долини відчаю. І я зацитую висновок, щоб ви зрозуміли неспіврозмірність популярності цього дослідження:

“Підсумовуючи, ми подаємо цю статтю як дослідження того, чому люди схильні мати надто оптимістичні й неточно скориговані уявлення про себе. Ми висуваємо тезу, що ті, хто має обмежені знання в певній сфері, страждають від подвійного тягаря: вони не лише доходять помилкових висновків і роблять прикрі помилки, але й їхня некомпетентність позбавляє їх здатності це усвідомити. Хоча ми вважаємо, що виконали компетентну роботу — переконливо обґрунтували цей аналіз, вивчили його емпірично та окреслили відповідні наслідки, — нас переслідує одне тривожне побоювання, яке ми не можемо здолати. Це побоювання, що стаття може містити хибну логіку, методологічні огріхи чи слабку комунікацію. Дозвольте запевнити наших читачів: якщо ця стаття й недосконала, то це не є гріх, вчинений нами свідомо.”

І перший варіант, і другий цілком можна дістати з ChatGPT. І діставши другий, більш коректний, ми можемо спитати в ШІ: “А що ж ти мені дав хибну історію на початку? Все ж не так”. На що ми теж не отримаємо цілковито чесну відповідь.

Навчання потребує зусиль. І вчитель — система — ставить перед учнями завдання, самостійне виконання яких потребує зусиль. Умовно пропонує пройти від точки A до точки Б. І штучний інтелект може допомогти подолати цю відстань легше (як тут не згадати про велосипед?). Ми забираємо певну складову — відстані стають умовно меншими. Так само і на виробництві механізми допомагають з важкими речами. Але, винайшовши авто, самокат, електровелосипед, людство не перестало бігати, тренуватись. Просто для хорошої фізичної форми нам вже не треба влаштовуватись на будівництво. Завдяки ШІ ми можемо досягати більшого. 

Етична сторона (внутрішній компас) відсутній в ШІ, адже він дасть найбільш релевантний, але не найбільш потрібний результат. Тож навчання з ним — це трішки вихід за межі опанування нового і невідомого. Тут на додачу важливий тандем вчителя, його амбіцій і талантів учня — як от цікавості, довіри. Разом вони дають неймовірний результат. 

А от ШІ дасть розмах і масовість процесу навчання, ви можете зайти в дуже специфічну область і знайти там себе. Але дивлячись на учнів, на освітню систему початкової і середньої школи, де цікавість повсякчас опиняється перед загрозою, перед нам стоїть неабияка задача, як правильно впровадити ШІ у навчальний процес.