Google DeepMind и GovTech создали локальную ИИ-модель для выявления мошенничества в чатах

Облегчённая модель Gemma анализирует переписку непосредственно на смартфоне и предупреждает пользователя о признаках социальной инженерии без отправки сообщений в облако.

Google DeepMind и сингапурское агентство GovTech разработали облегчённую модель на базе Gemma для выявления мошеннических сценариев в частных чатах. Анализ выполняется непосредственно на смартфоне, поэтому содержимое переписки не требуется отправлять в облако.

Разработка ориентирована на разговорные схемы социальной инженерии. В таких случаях злоумышленник постепенно вызывает доверие, выдаёт себя за банк, государственное учреждение или известного человека, а затем просит перевести деньги либо раскрыть конфиденциальные сведения.

Gemma анализирует диалог прямо на смартфоне

Модель оценивает последовательность сообщений и ищет признаки манипуляции. При обнаружении подозрительного сценария устройство показывает предупреждение и предлагает пользователю остановиться перед передачей денег, паролей или других чувствительных данных.

Параметр	Заявленная реализация
Основа системы	Облегчённая модель Gemma
Место обработки	Смартфон пользователя
Передача переписки для анализа	Не требуется
Реакция на риск	Предупреждение в реальном времени
Предполагаемая интеграция	Мессенджеры и операционные системы

Локальная обработка позволяет применять защитный механизм в сервисах со сквозным шифрованием, где сервер платформы не может просматривать содержание сообщений.

Обучение провели на местных мошеннических сценариях

Gemma дополнительно настроили на обезличенных примерах из сообщений о мошенничестве и аналитических материалов. Набор включал выдачу злоумышленников за банки, учреждения и местных публичных лиц, а также распространённые региональные схемы.

Частные и персональные данные граждан при обучении не использовались. Настройка проходила в изолированной облачной среде под управлением GovTech. Модель также проверяли на синтетических диалогах и локальных текстовых наборах.

Разработчики связывают проект с масштабом проблемы: мошенничество составляет более половины зарегистрированных преступлений в Сингапуре, а совокупные потери с 2019 года превысили 4 млрд сингапурских долларов. На сложные разговорные схемы приходится до 80% потерь.

Интеграция зависит от платформ и производителей

Представленная модель предназначена для встраивания в мессенджеры и мобильные операционные системы. Конкретные платформы, поддерживаемые устройства, сроки массового запуска и условия доступа пока не названы.

При оценке подобных функций пользователям и исследователям стоит отдельно проверять, где выполняется анализ, сохраняются ли сообщения после проверки и какие разрешения запрашивает приложение. Само упоминание локальной обработки не подтверждает, что любой сервис уже внедрил эту технологию.