Як працюють мовні моделі GPT і трансформери: пояснюємо просто

На YouTube-каналі Хмаринка Science вийшло відео, яке пояснює, як насправді працюють мовні моделі типу GPT — як вони формують відповіді, як функціонує трансформер і чому на одне й те саме питання ми можемо щоразу отримати різну відповідь. Ми підготували короткий і зрозумілий виклад найважливішого.

Принцип роботи: відповідь — це не думка, а прогноз

Коли ви ставите запитання мовній моделі, вона не шукає істину в базі знань. Її завдання — передбачити найбільш імовірне наступне слово. GPT — це функція, яка працює як «інтелектуальне автозавершення»: вона отримує текст і на його основі багаторазово «вгадує», яке слово має бути далі, потім — наступне, і так далі.

Це називається next-token prediction. Модель не просто вибирає одне слово, вона створює розподіл імовірностей для всіх можливих варіантів. Іноді GPT навмисне додає трохи випадковості, щоб звучати більш природно.

Саме тому дві відповіді на те саме запитання можуть бути різними — бо в межах «ймовірного простору» варіантів є багато.

Чому GPT звучить природно: випадковість vs детермінованість

Навіть якщо GPT завжди працює за одним алгоритмом, відповіді не копіюються. Це тому, що генерація включає елемент стохастичності — модель часом обирає не найбільш очевидне слово, а менш імовірне, щоб не звучати як шаблон. Цей ефект створює відчуття живої мови.

Як навчається GPT: мільйони прикладів і мільярди обчислень

На початку мовна модель не вміє нічого. Її параметри — це випадкові числа, тому перші відповіді — нісенітниця. Під час навчання модель бачить мільйони прикладів тексту, в яких їй дають усі слова, крім останнього, й просять передбачити його. Порівнюючи відповідь із правильним словом, модель коригує свої параметри через алгоритм зворотного поширення помилки (backpropagation).

Чим більше таких прикладів — тим точніше модель починає «вгадувати» не тільки у знайомому контексті, але й у нових ситуаціях. Саме так вона навчається узагальнювати.

Що таке параметри і навіщо їх сотні мільярдів

Підписуйтеся на наші соцмережі

Параметри — це внутрішні числові значення, які визначають поведінку моделі. У GPT-3 — понад 175 мільярдів параметрів. Вони не програмуються вручну — навпаки, під час навчання саме параметри змінюються, щоб збільшити точність прогнозу. Що більше параметрів — то більше контексту й складності модель може враховувати при генерації.

Це як механізм із мільярдами налаштувань, які відповідають за кожен нюанс фрази, що з’являється у відповіді.

Навчання тривало б мільйони років... якби не GPU

Щоб навчити модель масштабу GPT, треба виконати трильйони обчислень — додавань, множень, активаційних функцій. Якщо робити це послідовно, знадобилося б понад 100 мільйонів років.

Тому навчання виконується на спеціалізованих графічних процесорах (GPU), які можуть обробляти багато операцій паралельно. Саме завдяки їм обчислення, які займають мільйони років, відбуваються за кілька тижнів або місяців.

Революція трансформерів: як модель бачить увесь текст одразу

До 2017 року мовні моделі читали текст послідовно — слово за словом. Це обмежувало здатність бачити контекст. Усе змінив архітектурний прорив — трансформер, представлений дослідниками з Google.

Трансформер працює за допомогою механізму уваги (attention). Замість лінійного читання він «дивиться» на весь текст одночасно. Кожне слово «розуміє», як інші впливають на його значення. Наприклад, у словосполученні river bank трансформер коригує значення слова bank, щоб воно означало «берег», а не «банк».

Крім того, трансформери містять додаткові нейронні шари, які дозволяють моделі «запам’ятовувати» складні мовні патерни та граматичні структури.

Як трансформер кодує слова у числа

Комп’ютери працюють з числами. Тому кожне слово спочатку перетворюється на список чисел — вектор. Це векторне представлення подається у трансформер, де всі вектори проходять через шари уваги та feedforward-мереж.

Після багатьох обчислень вектори змінюються так, що кожне слово «пам’ятає» про контекст. Фінальним етапом є генерація ймовірності для кожного можливого наступного слова.

Після навчання: як GPT стає кориснішою завдяки людині

Базове навчання створює «нейтральну» модель. Але для корисних чатботів цього недостатньо. GPT потім навчається з підкріпленням від людини — reinforcement learning from human feedback.

Люди аналізують відповіді й відзначають погані або небезпечні. GPT коригує параметри, щоб відповідати більш безпечно, доречно та цікаво. Це значно підвищує її якість і відповідність очікуванням користувачів.

Чому ми не завжди можемо пояснити відповіді GPT

Хоч ми й знаємо архітектуру GPT, ми не можемо точно пояснити, чому вона дала саме цю відповідь. Причина — у складності: мільярди параметрів, які впливають на генерацію, взаємодіють у спосіб, який важко розкласти на причинно-наслідковий ланцюг.

Це як спостерігати за мозком: ми розуміємо нейрони, але не завжди можемо пояснити думку.

GPT — це не чарівництво, а інженерна досконалість

Мовні моделі на кшталт GPT — це результат поєднання теорії й гігантських обчислень. Вони не мислять, але навчилися передбачати слова так добре, що здається, ніби «розуміють». Вони працюють завдяки статистиці, мільярдам прикладів і вмілому проєктуванню — і стають лише кращими завдяки зворотному зв’язку з нами.

Глосарій ключових понять

Цей матеріал підготовлений на основі інформації з відкритих джерел. Редакція самостійно відбирає ключові факти, аналізує їх та структурує за допомогою AI-інструментів.