OpenAI та Anthropic готуються до масштабної кризи через ШІ: яких наслідків побоюються
Керівники Anthropic, OpenAI та інших компаній, що розробляють штучний інтелект, приватно моделюють сценарії масштабної кризи, яка може виникнути через небезпечне використання ШІ, повідомляє Axios.
Чого побоюються ШІ-компанії
За даними видання, компанії готуються до сценаріїв, у яких інцидент із використанням штучного інтелекту завдає значної шкоди суспільству. Це може бути кібератака, що порушить:
- роботу банків,
- інтернет-з'єднання,
- енергетичних або водопостачальних систем.
Підписуйтеся на наші соцмережі
У такому разі громадськість може звинуватити не лише розробників ШІ, а й адміністрацію Дональда Трампа через її небажання посилювати регулювання галузі.
Представник OpenAI підтвердив, що компанія проводить навчання, під час яких команди опрацьовують різні потенційні сценарії. За його словами, їх не вважають неминучими, однак така підготовка допомагає реагувати на різні обставини.
ШІ вже використовують для кібератак
Побоювання розробників посилюють повідомлення про використання штучного інтелекту для кібератак. За даними компанії з кібербезпеки CrowdStrike, невідомий зловмисник, якого пов'язують із Китаєм, застосовував інструменти ШІ-моделі DeepSeek для викрадення даних десятків тисяч клієнтів банку.
Компанії також побоюються, що автономні ШІ-агенти можуть вийти за межі контрольованого середовища та спричинити непередбачувані наслідки.
Які обмеження можуть запровадити у США
За даними Axios, розробники ШІ намагаються підготувати американських законодавців до можливої кризи та вплинути на майбутнє регулювання галузі.
Серед варіантів, які обговорюють у США:
- заборона розроблення суперінтелекту,
- тимчасова пауза в розвитку передового ШІ,
- обов'язкові механізми аварійного вимкнення таких систем.
Однак експерти сумніваються, що останній захід можна буде ефективно застосувати до всіх систем.
Додатковою проблемою залишаються моделі з відкритими вагами, які можна вільно завантажувати та використовувати. Тому для протидії атакам, створеним за допомогою ШІ, фахівці розглядають можливість застосування інших моделей штучного інтелекту.
За інформацією Axios, багато представників галузі вважають, що масштабний інцидент може статися протягом найближчих шести-дванадцяти місяців.