OpenAI и Meta спорят о приватности ИИ-агентов на фоне запуска Dots и Muse

OpenAI представила ИИ-агента Dots как инструмент с усиленным контролем пользователя над действиями и данными. Meta ранее продвигала Muse как безопасную альтернативу другим агентам. Конкуренция между сервисами показывает главную проблему нового класса приложений: для выполнения задач им требуется доступ к переписке, браузеру, файлам, платёжным данным и другим личным сведениям.

На презентации OpenAI руководители компании заявили, что Dots должен устанавливать более высокий стандарт приватности для передовых ИИ-систем. Среди показанных настроек была возможность задать ограничения для конкретных действий. Например, пользователь может запретить агенту совершать покупки выше установленной суммы. Для корпоративных клиентов OpenAI также представила расширенные настройки управления данными и варианты с нулевым хранением информации на серверах.

Какие ограничения заявили компании

Сервис	Заявленный механизм защиты	Ограничение, описанное в разборе
OpenAI Dots	Правила для действий агента и варианты нулевого хранения данных для бизнеса	Сервис доступен на дорогих тарифах, поэтому пользовательская база пока ограничена
Meta Muse	Изолированная виртуальная машина с браузером, памятью и хранилищем	Meta сохраняет доступ к данным, а отдельные уязвимости уже требовали исправлений

Meta сообщала, что Muse хранит пользовательские данные в изолированной виртуальной машине. Позднее компания планировала добавить криптографический механизм, который должен был проверяемо ограничить доступ Meta к содержимому этой среды. На момент описания сервиса такой защиты ещё не было.

Вокруг Muse также возникли вопросы к объёму собираемых данных. По умолчанию сервис мог использовать пользовательскую информацию для обучения моделей, хотя настройку можно было отключить. Отдельные пользователи сообщали о чтении личных сообщений и создании подробных профилей знакомых. Эти функции показывают, что изоляция данных сама по себе не решает проблему чрезмерных разрешений.

Что проверить перед использованием агента

Студентам и авторам курсовых стоит относиться к ИИ-агентам как к приложениям с расширенным доступом, а не как к обычному чат-боту. Перед загрузкой материалов нужно проверить, какие файлы, сообщения и действия разрешены сервису, используется ли информация для обучения и можно ли удалить историю.

Банковские реквизиты, персональные данные респондентов, ещё не опубликованные результаты исследования и документы с ограниченным доступом не следует передавать агенту без ясного понимания условий хранения. Даже заявленная изоляция не гарантирует отсутствия ошибок, уязвимостей или нежелательных действий.

Главный критерий для сравнения Dots и Muse сейчас состоит не в рекламном обещании «безопасного» агента, а в проверяемых настройках: кто получает доступ к данным, как отзываются разрешения, сохраняется ли история и может ли пользователь ограничить самостоятельные действия системы.