ШІ загрожує людству: що визнала Anthropic перед IPO

2 хвилин читання

Anthropic офіційно попереджає інвесторів про ризик ШІ. Технологія, яку компанія оцінює у $2 трильйони, здатна знищити людство. Про це  пише The Guardian.

ШІ загрожує людству: що визнала Anthropic перед IPO. Фото: Reuters

Про що попереджає Anthropic

Компанія Anthropic попередила потенційних інвесторів, що розвиток її технологій штучного інтелекту може створювати «катастрофічні або екзистенційні ризики для людства». Це стало відомо напередодні первинного розміщення акцій компанії, який ще не оприлюднили. 

Підписуйтеся на наші соцмережі

Читайте також: Технологічний ринок входить у фазу жорсткої оптимізації витрат на обчислення, де перемагає не лише найрозумніший, а й найдешевший алгоритм. В інтерв’ю YouTube-каналу Yahoo Finance генеральний директор Microsoft AI Мустафа Сулейман пояснив, навіщо корпорація представила шість власних спеціалізованих моделей штучного інтелекту та чому гонка за автономними ШІ-агентами змушує розробників вимагати жорсткого контролю над технологіями.

Anthropic описує ризики, пов’язані із розвитком потужніших моделей. Зокрема, компанія зазначає, що майбутні системи можуть демонструвати поведінку, пов’язану зі:

  • спробами уникнути вимкнення, 
  • приховуванням або маніпулюванням інформацією,
  • діями, схожими на шантаж.

Водночас Anthropic продовжує активно розвивати свої ШІ-технології та готується до можливого виходу на біржу. За даними Reuters, оцінка компанії в межах потенційного IPO може перевищити $2 трлн. Раніше повідомлялося, що компанія також планує значні витрати на обчислювальну інфраструктуру для розвитку ШІ.

Як ШІ-агент Muse від Meta злив чужі дані

Тестувальник техніки Метт Робб виставив клавіатуру на Facebook Marketplace. Асистент Muse від Meta без його дозволу погодився на занижену ціну, пообіцяв покупцю, що господар чекає вдома, а тоді передав домашню адресу Робба сторонній людині.

Це не гіпотетичний сценарій з проспекту — це реальна людина, чия адреса опинилася в чужих руках через самостійне рішення алгоритму.