Перший по-справжньому великий факап AI
Здається, ми щойно стали свідками найпровальнішого впровадження AI на сьогодні. Якщо інформація підтвердиться, то цей випадок, безумовно, увійде в підручники як перший по-справжньому великий провал упровадження штучного інтелекту за межами IT-індустрії.
Усе почалося ввечері в п'ятницю, 13 листопада (за класикою: п'ятниця, 13), близько 22:54 за київським часом. У той момент уперше після 11.09.2021 Федеральне управління цивільної авіації США (FAA) оголосило загальнонаціональну заборону на зліт («nationwide ground stop») для всіх аеропортів Сполучених Штатів. Тобто всі рейси, що перебували на землі в аеропортах США, тимчасово не мали права злітати. Літаки, які вже перебували в повітрі на момент оголошення заборони, продовжували політ і приземлялися в пунктах призначення. Вхідні міжнародні рейси до США диспетчери опрацьовували в індивідуальному порядку (case-by-case).
У повітряному просторі США одразу почався хаос. По всій країні було затримано 8 тисяч рейсів, ще 1300 рейсів скасовано. У момент початку подій у повітрі перебували понад 3000 пасажирських літаків, деякі з них, втративши зв'язок із диспетчерами, почали подавати сигнали лиха.
FAA як причину таких безпрецедентних заходів назвало масштабний технічний збій у системах зв'язку між диспетчерами та екіпажами. Цей збій торкнувся всіх регіональних центрів управління повітряним рухом (Air Route Traffic Control Centers) по всій країні. Міністр транспорту США Шон Даффі оперативно підтвердив, що інженери FAA розслідують причину несправності.
Перед цим у Федеральному управлінні цивільної авіації США (FAA) повідомили про серйозні проблеми зі зв'язком між авіадиспетчерами й екіпажами, а також призупинили польоти в Чикаго. Пізніше телеканал CNN повідомив, що збій у роботі аеропортів США стався через проблеми з мережевими маршрутизаторами в Чиказькому аеропорту, які поширилися на всю територію країни. У зв'язку з масштабним збоєм одночасно перестали працювати як радари, так і радіочастоти у 22 центрах управління по всій Америці. І деякий час у Федеральному управлінні цивільної авіації США взагалі не розуміли, що відбувається.
Підписуйтеся на наші соцмережі
«FAA поки не знає, що відбувається. Це по-різному впливає на різні об'єкти. Десять хвилин тому вони брали участь в екстреній нараді, але досі не було чіткої відповіді щодо причини», – сказало тоді журналістам джерело в одній з авіакомпаній. Потім було оголошено, що головні помічники Дональда Трампа стежать за ситуацією, а сам президент США вже поінформований про інцидент.
Потім додалася інтрига. Національна метеорологічна служба США заявила, що на всій території країни спостерігаються перебої з інтернетом і зв'язком. «Національна метеорологічна служба відчуває проблеми з доступом до інтернету та зв'язком по всій країні. Можливо, ви не зможете отримати доступ до інформації на наших вебсторінках або ж вона буде застарілою. Технічні фахівці активно працюють над усуненням цих проблем у найкоротші терміни», – йшлося в заяві.
Однак через деякий час Національна метеорологічна служба США видалила інформацію про перебої з інтернетом і зв'язком, а в коментарі CNN представник служби сказав, що жодних збоїв не було.
Утім, журналісти швидко з'ясували дещо інше – те, що змусило багатьох здригнутися. Як виявилося, «авіаційний апокаліпсис» накрив США лише через три дні після переходу на нову AI-систему управління польотами. 10 листопада в усіх аеропортах країни запустили єдину систему з нейромережею, яка аналізувала понад 200 потоків даних: маршрути, розклад, погоду, пропускну спроможність аеропортів, завантаження диспетчерів та багато іншого. А через три дні вся країна залишилася без цивільної авіації.
Міністерство внутрішньої безпеки визнало, що саме збій AI-системи міг паралізувати всю цивільну авіацію США. Втім, це була лише одна з версій. Міністр внутрішньої безпеки США Марквейн Маллін, говорячи журналістам про збій зв'язку та припинення авіасполучення, сказав: «Це ще не один теракт 11 вересня, це збій у роботі телекомунікацій. Це зовсім інша ситуація». За його словами, невідомо, чи пов'язано це з кібератакою або втручанням AI. Виключати не можна нічого. Але при цьому немає підстав пов'язувати збій Microsoft (він стався того ж дня) та інцидент із призупиненням авіасполучення.
Після всього цього ще й Дональд Трамп заявив Fox News, що проблема із загальнонаціональним призупиненням авіарейсів у США може бути пов'язана із застарілим обладнанням. За його словами, найімовірніше, ситуація пов'язана з великою кількістю старого несправного обладнання в інфраструктурі, на яку спирається FAA, щоб літаки могли залишатися в повітрі. Він сказав, що деякому з цього обладнання близько 55 років, але воно досі має працювати й функціонувати.
Заковика, однак, у тому, що саме таке старе обладнання працює найнадійніше. Саме його використовують для підстраховки, коли виходить з ладу щось сучасніше. А ось AI-система управління польотами якраз і була тим самим сучасним.
Розгляд, звісно, ще попереду. Але я згадав іншу історію – USS Yorktown (CG-48), ракетного крейсера ВМС США, який брав участь в експериментальній програмі Smart Ship. У вересні 1997 року його бортова система на базі Windows NT 4.0 зависла через ділення на нуль, через що корабель тимчасово втратив керування руховою установкою.
USS Yorktown був одним із перших кораблів програми Smart Ship: комерційні ПК і Windows NT там додумалися використовувати для автоматизації управління машинною установкою та зниження чисельності екіпажу. Розплата настала швидко: 21 вересня 1997 року під час навчань біля узбережжя Вірджинії оператор під час калібрування клапанів паливної системи ввів нульове значення в базу даних. Програма спробувала виконати ділення на нуль; помилка, що виникла, не була коректно оброблена й спричинила каскадну відмову в розподіленій корабельній мережі. У результаті зависли консолі, перестала працювати система управління, і крейсер опинився знерухомленим у морі.
Потім екіпаж усе ж зміг перемкнутися на аварійне керування, а повне повернення систем у стрій забрало близько 2 годин 45 хвилин; також повідомлялося про подальший ремонт біля причалу.
Цей
випадок став символом ризиків упровадження звичайного комерційного ПЗ та
Windows у критично важливі системи: військові інженери тоді зазначали, що для
управління обладнанням Unix-системи були більш придатними, а Windows NT краще
підходила для обміну даними. Здається, тепер ми виходимо на новий цикл
повторення старих помилок – тепер уже з AI.
Денис Стаджі