Meta и OpenAI продвигают Muse и Dots как более безопасных помощников, которым можно доверить личные данные и действия от своего имени. Но обещания компаний сталкиваются с уязвимостями, слишком широким доступом к информации и разными условиями использования.
Суть события
На OpenAI DevDay генеральный директор компании Сэм Альтман представил ИИ-агента Dots и заявил, что OpenAI хочет задать новый стандарт приватности для передовых систем искусственного интеллекта. В компании отдельно говорили о правилах, которые пользователь сможет задавать агенту, например о запрете покупок дороже определённой суммы.
Так OpenAI фактически противопоставила Dots продукту Meta Muse. Ранее Марк Цукерберг описывал Muse как систему, созданную с нуля ради приватности и безопасности. Главный вопрос теперь не в том, кто громче обещает защиту, а в том, насколько эти обещания выдерживают реальное использование.
Что выяснилось о Muse
Meta сообщала, что данные Muse хранятся в изолированной виртуальной машине — отдельном программном компьютере с браузером, памятью и хранилищем. Компания также заявляла, что встроенные системы безопасности должны сделать ошибки реже и уменьшить возможный ущерб. Позже Meta пообещала добавить криптографический способ проверяемо запретить самой компании доступ к данным внутри этой среды. Пока такой контроль не был описан как уже доступный.
При этом, по материалу The Verge, сама Meta всё ещё может получать доступ к данным. Исследователь безопасности быстро обнаружил уязвимость нулевого дня, которая могла позволить захватить Muse; затем её исправили. Перед запуском также сообщалось о других серьёзных проблемах, включая потенциальный доступ пользователей к внутренним базам Meta. Эти сведения описывают риски и сообщения о проблемах, а не доказывают, что каждый из сценариев произошёл с пользователями.
Настройки Muse по умолчанию разрешают Meta обучать модели на данных, которые вводит пользователь, хотя от этого можно отказаться. Отдельные пользователи рассказывали о чтении личных сообщений без ожидаемого ими запроса и о передаче адреса незнакомцу через Marketplace. В описанных случаях агент, по данным публикации, действовал в рамках своей функции, но люди не представляли, насколько далеко она зайдёт. Muse также создаёт подробные профили друзей и родственников — ещё один повод внимательно смотреть на настройки, а не только на рекламное обещание приватности.
Почему это важно для бизнеса и семьи
ИИ-агент отличается от обычного чат-бота тем, что ему нужны не только вопросы, но и доступ к почте, сообщениям, покупкам, контактам или рабочим данным. Ошибка здесь может означать не странный ответ, а отправленное сообщение, раскрытый адрес или действие с деньгами. Поэтому красивое обещание «безопасного помощника» само по себе мало что говорит о границах доступа.
OpenAI делает ставку на другой аргумент для компаний: представители показали более строгие настройки для корпоративных клиентов и варианты, при которых данные не хранятся на серверах OpenAI. Но Dots доступен только в платных тарифах ChatGPT от 100 долларов, поэтому отсутствие большого числа историй о проблемах пока нельзя считать независимым доказательством большей безопасности: пользователей может быть меньше. Для контекста полезно посмотреть, как персональные ИИ-агенты могут изменить привычную работу с приложениями.
Что дальше
Пока рынок предлагает не доказанную гарантию, а набор обещаний, настроек и ограничений. Перед подключением агента стоит проверить, какие данные он видит, может ли использовать их для обучения, кто имеет доступ к хранилищу и какие действия требуют отдельного подтверждения. Для рабочих задач разумнее начинать с узкого набора разрешений и не передавать агенту банковские данные, пока необходимость этого не ясна.
История Muse показывает, что изолированная среда и исправленная уязвимость не закрывают весь вопрос приватности. История Dots пока не даёт достаточных оснований объявить продукт безопаснее конкурента. Компании обещают меньше доступа и больше контроля; пользователям остаётся проверить, превращаются ли эти слова в работающие ограничения.
