Чи зможемо ми колись дізнатися, чи має ШІ свідомість?
Проблема проста: ми й досі не знаємо, що саме становить свідомість навіть у тварин. Тож чи можемо впевнено сказати, як вона має виглядати в машині?
Тема штучної свідомості стрімко набирає популярності — у соцмережах, академічних колах і політичних дискусіях. Але чи реально встановити, що машина досягла «справжньої» свідомості? І що взагалі означало б таке твердження?
Останніми роками особливо гостро звучить питання: чи стане штучний інтелект колись свідомим? Від науковців і технологічних підприємців до представників урядів — усі висловлюються з цього приводу. Дехто наполягає: проблему слід сприймати серйозно, адже може виникнути потреба в регулюванні або навіть запобіганні появі свідомого ШІ. Втім, навіть якщо це станеться — чи здатні ми це розпізнати?
Колись питання свідомості машин залишалося сферою наукової фантастики. Тепер воно дедалі частіше звучить як практичний і навіть «нагальний» виклик.
Чи може штучний інтелект стати свідомим: позиції прихильників і скептиків
У наукових журналах з’являються статті, що аналізують цю перспективу, а державні інституції обговорюють можливі обмеження. Під впливом медіа частина суспільства починає сприймати потенційну свідомість ШІ як екзистенційну загрозу.
Погляди дослідників різняться.
З одного боку — прихильники ідеї, що правильно спроєктований ШІ може стати свідомим. На їхню думку, свідомість — це певний «програмний» візерунок. У мозку цей «софт» вбудований у біологічну тканину, але за своєю природою він — обчислювальний процес. Якщо відтворити потрібну структуру обчислень, можна відтворити й свідомість.
З іншого боку — скептики. Вони вважають, що свідомість невіддільна від біологічної матерії: нейронів, хімічних процесів, органічного середовища. Без цього «живого субстрату» жодна машина не стане по-справжньому свідомою.
Підписуйтеся на наші соцмережі
Чому ChatGPT та великі мовні моделі створюють ілюзію свідомості?
Прориви в комп’ютерних науках суттєво підвищили ефективність інструментів ШІ, настільки, що межа між програмою і «мислячим чимось» стала розмитою. Великі мовні моделі, зокрема ChatGPT, іноді справляють враження свідомих настільки, що люди формують із ними емоційні зв’язки, забуваючи, що друга або психотерапевта ШІ не може замінити. Дехто навіть говорить про «окремі сутності», нібито приховані в коді.
І все ж, попри здатність таких систем переконливо імітувати свідомість, більшість дослідників погоджується: це саме імітація.
Чи існують наукові тести для вимірювання свідомості ШІ?
Водночас усе гучніше лунають заклики розробити надійні тести для виявлення штучної свідомості. Наука вже досягла значного прогресу в розробці інструментів для вимірювання свідомості — принаймні в біологічних організмів.
Звідси зростає впевненість, що питання свідомості — у тварин чи машин — можна вирішити емпірично, на основі наукових даних, а не інтуїції чи спекуляцій. Звучить переконливо. Але чи маємо ми достатньо глибоке розуміння самого феномену?
Філософ із Кембриджського університету Tom McClelland вважає, що ні. У статті 2024 року він зауважив: щоб науково стверджувати, що ШІ свідомий, потрібні вагомі докази. А наразі їх немає — ні «за», ні «проти». Причина проста: ми не маємо глибокої теорії, яка пояснювала б, чому людський мозок породжує суб’єктивний досвід.
Якщо ми не знаємо, що саме спричиняє свідомість у людині, як можемо впевнено судити, чи можлива вона в машині?
Свідомість vs відчуття: у чому принципова різниця для етики?
Незнання має й моральні наслідки. Питання свідомості тісно пов’язане з поняттям відчуттів — здатності переживати біль або задоволення.
Автономний автомобіль, наприклад, «усвідомлює» довкілля у функціональному сенсі: він аналізує простір навколо себе. Але це надзвичайно обмежена форма свідомості, яка не викликає морального занепокоєння.
Натомість істота, здатна відчувати біль чи насолоду, потрапляє в нашу моральну сферу. Якщо машина не має відчуттів, хай би якою розумною вона була, вона залишається об’єктом.
Чи ризикуємо ми співчувати машині замість живих істот?
Якщо ж ми помилково припустимо, що ШІ має свідомість і відчуття, хоча це лише майстерна імітація, ризикуємо спрямувати моральні ресурси не туди. Технологічні компанії легко можуть використати невизначеність довкола свідомості ШІ для просування нових продуктів.
Це створює небезпеку: співчувати машині, водночас ігноруючи істот, чия здатність страждати має дедалі більше наукових підтверджень — восьминогів, шимпанзе, креветок, омарів.
Макклелланд зауважує: якщо ми випадково створимо свідомий або відчуваючий ШІ, маємо уникати шкоди. Але не меншою помилкою буде ставитися до «тостера» як до свідомої істоти, тоді як реальні живі організми зазнають масових страждань.
Сьогодні ми витрачаємо величезні ресурси на дебати про свідомість ШІ, тоді як доведені страждання біологічних видів залишаються поза фокусом. З’являється дедалі більше даних про здатність креветок відчувати біль — і водночас щороку гинуть сотні мільярдів цих тварин.
І нарешті — ще один ризик. Якщо ми формуємо емоційний зв’язок із чимось, виходячи з припущення, що воно свідоме, а це виявляється не так, наслідки можуть бути руйнівними для нашого світогляду. Риторика технологічної індустрії лише підсилює цю небезпеку.