Людяність — ключ до майбутнього ШІ: Інститут Алана Тюрінга
Штучний інтелект, зокрема LLM, уже став частиною нашого повсякдення, але відповіді мовних моделей часто можуть бути упередженими, неточними та навіть шкідливими. Були випадки, коли ШІ спонукав до самогубства або пропонував колишнім залежним повернутися до вживання речовин.
Подібне стається через те, що ШІ часто ігнорує культурний, соціальний та етичний контексти. Він не може критично осмислити інформацію, яку видає у відповідях користувачам. Як із цим боротися? Чи може людство ще все виправити та не допустити гірших наслідків?
Видання AI News підготувало огляд нового дослідження Інституту Алана Тюрінга, який пропонує підхід «Doing AI Differently», що може стати рішенням проблеми.
SPEKA підготувала переклад статті.
Інститут Алана Тюрінга — національний центр з дослідження даних та штучного інтелекту зі штаб-квартирою у Британській бібліотеці. Названий на честь видатного вченого, роботи якого лягли в основу сучасної інформатики, криптографії та концепції штучного інтелекту. Однією з найвідоміших праць є стаття «Computing Machinery and Intelligence», опублікована у 1950 році, де Алан поставив знамените питання «Чи може машина думати?» і запропонував Тест Тюрінга як критерій для визначення здатності машин мислити та імітувати людську поведінку.
Підписуйтеся на наші соцмережі
Команда Інституту Алана Тюрінга запустила ініціативу під назвою «Doing AI Differently» («Інший підхід до ШІ»), яка закликає до людиноцентричного підходу у подальшому розвитку штучного інтелекту.
Довгий час результати роботи штучного інтелекту розглядалися як наслідок розв’язання складної математичної задачі. Але дослідники з Інституту Алана Тюрінга у Лондоні, а також їхні партнери з Единбурзького університету, AHRC-UKRI та Фонду Ллойда Регістра, які стоять за цим проєктом, стверджують, що такий підхід є хибним.
Штучний інтелект створює, по суті, культурні артефакти. Вони радше схожі на роман або картину, ніж на електронну таблицю. Проблема в тому, що штучний інтелект створює цю «культуру», не розуміючи її. Це як людина, яка завчила напам’ять словник, але не має уявлення, як вести справжню розмову.
«Ось чому ШІ часто дає збій там, де «найбільше значення мають нюанси й контекст», — каже професор Дрю Хеммент, керівник напряму «Інтерпретативні технології для сталого розвитку» в Інституті Алана Тюрінга, — «Система просто не має достатньої глибини інтерпретації, щоб зрозуміти власні висловлювання».
Ось чому ШІ часто дає збій там, де «найбільше значення мають нюанси й контекст». Система просто не має достатньої глибини інтерпретації, щоб зрозуміти власні висловлювання.
Втім, більшість штучного інтелекту в світі побудована лише на кількох подібних архітектурних підходах. У звіті це називається «проблемою гомогенізації», і майбутній розвиток штучного інтелекту повинен її подолати.
Уявіть, що всі пекарі світу користуються одним і тим самим рецептом. Ви отримаєте безліч однакових і, чесно кажучи, нудних тортів. У випадку із штучним інтелектом це означає, що однакові сліпі зони, однакові упередження та однакові обмеження копіюються та вставляються у тисячі інструментів, якими ми користуємося щодня.
Ми вже бачили подібне із соціальними мережами. Їх запускали із простими цілями, а зараз ми живемо з непередбачуваними наслідками для суспільства. Команда Doing AI Differently б’є на сполох, щоб ми не повторили ту саму помилку із штучним інтелектом.
Команда пропонує створити новий тип ШІ, який називають інтерпретативним ШІ. Йдеться про розроблення систем, які від самого початку будуть працювати так, як люди: з неоднозначністю, різними поглядами та глибоким розумінням контексту.
Мета полягає у створенні інтерпретаційних технологій, які можуть запропонувати кілька обґрунтованих поглядів замість однієї жорсткої відповіді. Це також означає дослідження альтернативних архітектур ШІ, щоб вийти за межі нинішніх підходів. Найголовніше — майбутнє полягає не в тому, щоб ШІ замінив нас, а у синергії «людина-ШІ», де ми працюємо разом, поєднуючи нашу креативність з обчислювальною потужністю ШІ для розв’язання масштабних викликів.
Це може реально вплинути на наше життя. Наприклад, у медицині ваш візит до лікаря — це історія, а не лише список симптомів. Інтерпретативний ШІ міг би допомогти зафіксувати цю історію повністю, покращуючи якість лікування та рівень довіри до системи.
Для кліматичних дій такий підхід може допомогти подолати розрив між глобальними кліматичними даними та унікальними культурними й політичними реаліями конкретних громад, створюючи рішення, які справді працюють на місцях.
Запускається новий міжнародний конкурс на фінансування, щоб об'єднати дослідників з Великої Британії та Канади для виконання цієї місії. Але ми стоїмо на роздоріжжі.
Для партнерів, як-от Lloyd’s Register Foundation, усе зводиться до одного — безпеки.Для партнерів, як-от Lloyd’s Register Foundation, усе зводиться до одного — безпеки.
Як глобальна благодійна організація, що займається питаннями безпеки, нашим пріоритетом є забезпечення того, щоб майбутні системи штучного інтелекту, незалежно від їхньої форми, використовувалися безпечно та надійно.
Йдеться не лише про створення кращих технологій, а й про розроблення такого ШІ, який допоможе вирішити наші найбільші проблеми і водночас посилить найкращі риси людяності.