ШІ-агенти загрожують конфіденційності користувачів, вважає голова Signal
Президентка Signal Мередіт Віттакер попередила, що агенти штучного інтелекту можуть загрожувати конфіденційності користувачів. Про це вона заявила на конференції SXSW в Техасі, повідомляє Techcrunch.
Віттакер вважає, що використання ШІ-агентів рівнозначне «поміщенню вашого мозку в банку». Вона впевнена, що нова парадигма обчислень, де штучний інтелект виконує завдання від імені користувачів, має «глибоку проблему» як з конфіденційністю, так і з безпекою.
Чому використання ШІ-агентів загрожує безпеці даних
ШІ-агенти продаються як спосіб підвищити цінність життя, бо виконують різні онлайн-завдання для користувача: шукають концерти, бронюють квитки, планують події у календарі і повідомляють друзям, що подію заброньовано.
Підписуйтеся на наші соцмережі
Водночас, пояснює вона, агенту штучного інтелекту для виконання цих завдань знадобиться більше доступу:
- доступ до веб-браузера;
- спосіб керування браузером;
- доступ до даних кредитної картки для оплати квитків;
- доступ до календаря;
- доступ до програми обміну повідомленнями для надсилання тексту друзям.
Щоб керувати процесами у користувацькій системі ШІ-агент повинен мати доступи рівня root-дозволів і доступ до кожної з цих баз даних. І, ймовірно, у відкритому вигляді, тому що немає моделі, яка б робила це зашифровано, попередила Віттакер.
Потужна ШІ-модель навряд чи буде робити все це на пристрої користувача. Майже напевно інформація надсилається на хмарний сервер, обробляється і надсилається назад.
Чому Signal не матиме інтеграції з ШІ-агентами
Якби Signal інтегрувався з агентами ШІ, це підірвало б конфіденційність повідомлень користувачів. Агент має отримати доступ до програми, щоб відправити повідомлення друзям, а також отримати дані, щоб узагальнити ці повідомлення.
Так Віттакер прокоментувала дискусію про те, що галузь ШІ побудована на моделі масового збору даних. Парадигма штучного інтелекту «чим більше [даних], тим краще» має потенційні погані наслідки, впевнена Віттакер.
Віттакер попередила, що завдяки агентському ШІ людство підриває конфіденційність і безпеку в ім’я «чарівного бота-джина, який подбає про життєві труднощі».