OpenAI та Anthropic закликають Конгрес США посилити контроль ШІ через загрозу біологічної зброї

Керівники найбільших компаній у сфері штучного інтелекту звернулися до Конгресу США із закликом запровадити жорсткіші правила для ринку синтетичної ДНК та РНК. Причиною стали побоювання, що сучасні AI-моделі можуть суттєво спростити створення небезпечних патогенів.

Про це повідомляє Crypto Briefing. 

Відкритий лист був оприлюднений 3 червня. Серед його підписантів — генеральний директор OpenAI Сем Альтман, CEO Anthropic Даріо Амодеї, керівник Google DeepMind Деміс Хассабіс та очільник Microsoft AI Мустафа Сулейман.

Чого вимагають AI-компанії

Автори листа пропонують запровадити обов'язковий контроль усіх замовлень на синтетичну ДНК та РНК у США.

Зокрема, вони закликають законодавців:

Підписуйтеся на наші соцмережі

На думку компаній, нинішні добровільні стандарти безпеки вже не відповідають рівню розвитку сучасного штучного інтелекту.

Чому OpenAI занепокоїлася

Як зазначається у зверненні, великі мовні моделі стають дедалі ефективнішими у вирішенні складних наукових задач, зокрема у сфері біології.

За даними OpenAI, компанія ще з 2024 року проводить спеціальні перевірки своїх моделей, тестуючи, наскільки вони можуть допомогти користувачам у роботі з біологічною інформацією.

Результати таких перевірок виявилися достатньо тривожними, щоб компанія підтримала ідею державного регулювання.

У листі підкреслюється, що штучний інтелект потенційно може знизити бар'єри для створення або модифікації небезпечних біологічних агентів, якщо доступ до відповідних інструментів отримають зловмисники.

Конкуренти виступили єдиним фронтом

Особливу увагу аналітики звернули на склад підписантів.

OpenAI та Anthropic сьогодні є одними з найбільших конкурентів на ринку генеративного ШІ. Попри це, їхні керівники вперше виступили зі спільною позицією щодо потенційних біологічних ризиків.

Даріо Амодеї раніше неодноразово попереджав, що майбутні покоління AI-систем можуть значно підвищити можливості людей, які не мають спеціалізованої підготовки, але прагнуть працювати з небезпечними біологічними матеріалами.

Як це може вплинути на біотехнологічний ринок

Якщо Конгрес США підтримає запропоновані зміни, компанії, що займаються синтезом ДНК та РНК, можуть зіткнутися з новими витратами на комплаєнс і перевірки клієнтів.

Водночас нові правила можуть створити попит на рішення у сфері біобезпеки, включаючи:

Експерти також зазначають, що нові обмеження можуть вплинути на розвиток відкритих біотехнологічних платформ і проєктів у сфері децентралізованої науки (DeSci), які працюють із генетичними даними та біологічними дослідженнями.

Новий етап дискусії про безпеку ШІ

Ініціатива OpenAI, Anthropic, Google DeepMind та Microsoft AI демонструє зміну підходу індустрії до регулювання. Якщо раніше технологічні компанії переважно виступали проти жорсткого контролю, то тепер самі закликають владу втрутитися в суміжні галузі, де розвиток штучного інтелекту може створити нові ризики.

На думку авторів листа, саме ринок синтетичної ДНК може стати однією з найвразливіших точок у майбутньому, коли AI-системи отримають ще глибші знання в галузі біології та генетики.