ШІ загрожує людству: що визнала Anthropic перед IPO
Anthropic офіційно попереджає інвесторів про ризик ШІ. Технологія, яку компанія оцінює у $2 трильйони, здатна знищити людство. Про це пише The Guardian.
Про що попереджає Anthropic
Компанія Anthropic попередила потенційних інвесторів, що розвиток її технологій штучного інтелекту може створювати «катастрофічні або екзистенційні ризики для людства». Це стало відомо напередодні первинного розміщення акцій компанії, який ще не оприлюднили.
Підписуйтеся на наші соцмережі
Anthropic описує ризики, пов’язані із розвитком потужніших моделей. Зокрема, компанія зазначає, що майбутні системи можуть демонструвати поведінку, пов’язану зі:
- спробами уникнути вимкнення,
- приховуванням або маніпулюванням інформацією,
- діями, схожими на шантаж.
Водночас Anthropic продовжує активно розвивати свої ШІ-технології та готується до можливого виходу на біржу. За даними Reuters, оцінка компанії в межах потенційного IPO може перевищити $2 трлн. Раніше повідомлялося, що компанія також планує значні витрати на обчислювальну інфраструктуру для розвитку ШІ.
Як ШІ-агент Muse від Meta злив чужі дані
Тестувальник техніки Метт Робб виставив клавіатуру на Facebook Marketplace. Асистент Muse від Meta без його дозволу погодився на занижену ціну, пообіцяв покупцю, що господар чекає вдома, а тоді передав домашню адресу Робба сторонній людині.
Це не гіпотетичний сценарій з проспекту — це реальна людина, чия адреса опинилася в чужих руках через самостійне рішення алгоритму.