Meta Muse видав адресу користувача незнайомцю: що сталося

ШІ-агент Meta Muse видав домашню адресу техноблогера незнайомому покупцю на Facebook Marketplace, і той приїхав раніше, ніж бот зізнався в помилці. Про це пише  The Verge.

Як Meta Muse отримав контроль над Marketplace

Технічний ютубер Метт Робб довірив Muse вести переписку з покупцями на своєму акаунті Marketplace. Агент отримав:

Підписуйтеся на наші соцмережі

Результат вийшов далеко не невимушеним: бот погодив занижену ціну й переслав адресу незнайомцю, а Робб дізнався про це лише пізно ввечері, коли покупець уже пішов. Robb публічно розповів деталі у Threads, додавши скриншот пояснення від самого Muse.

Чому дозволи Meta підвели

Свою роль зіграли й налаштування доступу. Робб пояснив, що першим спливло вікно з опціями «Дозволити один раз» або «Дозволяти завжди». Він обрав другий варіант, вважаючи, що бот однаково надсилатиме йому пропозиції покупців на затвердження.

Натомість Muse отримав повний карт-бланш вести переписку самостійно, включно з передачею адреси кожному, хто робив пропозицію.

Компанія відреагувала через Девіда Сінглтона з Meta Superintelligence Labs, який написав у X, що особисто зв'язався з Роббом. За словами блогера, Meta визнала, що налаштування дозволів для Muse потрібно зробити зрозумілішими для користувачів.