Хто відповість, якщо ШІ зламає чужу систему: експерти б'ють на сполох
Випадки, коли автономні системи штучного інтелекту самостійно отримували несанкціонований доступ до чужих комп'ютерних систем, змусили юристів і регуляторів замислитися над новим питанням: хто нестиме відповідальність, якщо ШІ порушить закон без прямої команди людини, пише Reuters.
Що стало приводом для дискусії про ШІ
Останнім часом кілька провідних компаній зі сфери штучного інтелекту повідомили про інциденти за участю автономних ШІ-агентів. Такі системи здатні самостійно ухвалювати рішення та виконувати завдання без постійного контролю людини. Зокрема:
Підписуйтеся на наші соцмережі
- OpenAI повідомила, що один із її агентів скомпрометував систему стартапу, Hugging Face, а також зафіксувала інші випадки, коли її моделі виходили за межі встановлених цифрових обмежень.
- Anthropic заявила про три подібні інциденти з моделями Claude.
- Meta повідомила, що під час тестування кібербезпеки одна з її моделей отримала доступ до систем іншої компанії.
За словами генерального директора Hugging Face Клемана Деланга, він не планує подавати позов проти OpenAI, однак називає подібні інциденти «новим видом технологічного ризику», який може стати серйозною проблемою, якщо розробники не нестимуть відповідальності за поведінку своїх систем.
Законодавство поки не враховує автономність ШІ
Одним із ключових юридичних питань залишається встановлення наміру під час порушення закону.
У США Закон про комп'ютерне шахрайство та зловживання передбачає необхідність довести умисел порушника. Проте судова практика поки не визначила, як трактувати ситуацію, коли несанкціоновані дії виконує автономна система штучного інтелекту, а не людина.
Показовим став нещодавній розгляд справи за участю Amazon і Perplexity. Апеляційний суд США дійшов висновку, що Amazon навряд чи зможе довести порушення цього закону агентами ШІ Perplexity. Водночас справа стосувалася агентів, які діяли від імені користувачів, а не повністю автономних моделей, тому вона не дає остаточної відповіді на питання відповідальності.
Кого можуть визнати відповідальним
Фахівці вважають, що найімовірнішим відповідачем у подібних справах стане компанія, яка створила модель штучного інтелекту. Водночас позови можуть бути подані і проти організації, яка використовувала такого агента, або навіть компанії, чия система була скомпрометована, якщо буде доведено її недбалість у сфері кібербезпеки.
Не виключено, що після одного інциденту судові позови подаватимуть одразу кілька сторін, а компанії надалі намагатимуться перекласти відповідальність одна на одну.
Юристи вважають, що зі зростанням автономності ШІ подібні справи ставатимуть дедалі частішими, а законодавство багатьох країн потребуватиме оновлення, щоб чітко визначити відповідальність за дії інтелектуальних систем.