Google DeepMind и правительство Сингапура сотрудничают для создания тонко настроенной модели ИИ для обнаружения мошенничества.
В сотрудничестве с Агентством по технологиям правительства Сингапура (GovTech Singapore) направлено на защиту пользователей без компромиссов в области конфиденциальности.
Мошенничество, такое как инвестиционные аферы, поддельные предложения о работе и выдача себя за государственных служащих, составляет более половины зарегистрированных преступлений в Сингапуре и привело к потерям свыше 4 миллиардов сингапурских долларов с 2019 года. В то же время тактики мошенников изменились: от простого фишинга к сложной социальной инженерии, когда злоумышленники убеждают жертву в ходе убедительных разговоров, а затем просят деньги. Такие схемы теперь составляют до 80% всех потерь.
Чтобы противодействовать этому, Google DeepMind и Агентство по технологиям правительства Сингапура (GovTech Singapore) работают вместе в рамках нашего Национального партнерства по ИИ с правительством Сингапура. Совместно мы тонко настроили модель обнаружения мошенничества, сохраняющую приватность и работающую на устройстве.
Защита на устройстве без ущерба для приватности
Универсальные модели часто испытывают трудности с локальными приёмами обмана, что затрудняет обнаружение мошенничества. В ответ была тонко настроена лёгкая модель Gemma от Google на локальных мошеннических диалогах. Они варьировались от выдачи себя за государственные учреждения, банки и местных деятелей до актуальных региональных схем. Это обеспечивает способность адаптированной модели отличать безобидное социальное общение от реальной манипуляции при её внедрении в приложения, установленные гражданами.
В отличие от традиционного обнаружения угроз, которое опирается на сканирование сообщений на сервере в облаке, эта модель может обрабатывать данные разговоров непосредственно на устройстве. При интеграции в приложения это позволит быстрее анализировать паттерны общения для выявления манипулятивных намерений и помочь гражданам действовать до того, как произойдут финансовые или утрата учётных данных.
Развёртывание модели в приложениях будет поэтапным и осуществляться в партнёрстве с правительством Сингапура. При развертывании модель будет иметь доступ к разговорам на устройстве только с согласия пользователя и в соответствии с условиями использования соответствующего приложения. Поскольку модель полностью работает на устройстве, ни правительство Сингапура, ни Google не смогут получить доступ к разговорам пользователей через её внедрение.
Бороться с мошенничеством не означает жертвовать личной конфиденциальностью. Работая с Google DeepMind, мы внедряем передовую ИИ-защиту прямо на устройства граждан. Это позволяет в реальном времени перехватывать целевые локальные попытки мошенничества, сохраняя при этом приватность личной переписки.
Технические детали: локальный контекст и эффективность на «границе» устройства
Когда модель обнаруживает манипулятивные паттерны в разговоре, она генерирует предупреждение в реальном времени прямо на устройстве пользователя, советуя сделать паузу и проявить осторожность перед тем, как поделиться конфиденциальной информацией или перевести средства.
Запуск сложной модели классификации мошенничества на современных смартфонах — нетривиальная задача, где критичным является энергопотребление. Для этого используется двухэтапный конвейер:
- Этап 1: Лёгкий и эффективный классификатор сканирует входящие сообщения, потребляя минимальную энергию и фокусируясь на выявлении потенциальных угроз.
- Этап 2: Контекстный анализ с использованием тонко настроенной модели Gemma, где анализируется более широкий фрагмент разговора для подтверждения угрозы или отбрасывания ложного срабатывания.
Представленная на Singapore International Cyber Week (SICW 2026), эта коллаборация предлагает модель для платформ обмена сообщениями, сочетающую защиту пользователей с энд-ту-энд шифрованием. В ходе разработки соблюдались строгие меры управления:
- Суверенный песочница: тонкая настройка выполнялась в управляемой и поддерживаемой среде GCP GovTech Singapore, что обеспечивало изоляцию данных для обучения.
- Без данных граждан: в обучение строго не включалась приватная или личностно идентифицируемая информация, использовались анонимизированные наборы данных, полученные из отчётов о мошенничестве и разведывательных источников.
- Стресс-тестирование: модель тестировалась на синтетических диалогах и локальных корпусах, чтобы охватить разнообразные категории мошенничества и эволюционирующие приёмы выдачи себя за других.
Проект демонстрирует, как ИИ может помогать противодействовать преступности, не ставя под угрозу безопасность или приватность. Он также показывает, как правительства и поставщики моделей могут сотрудничать при создании технологий для общественного блага. С этой лёгкой моделью, работающей на устройстве, мы показали возможность локального обнаружения мошенничества в реальном времени при сохранении безопасности чатов. Мы надеемся вскоре поделиться дополнительной информацией о сотрудничестве с правительством Сингапура, а также исследовать потенциал развертывания аналогичных технологий в других странах.
Укрепление будущего ИИ Сингапура: новое национальное партнёрство.
Разблокирование строительства домов в Великобритании с помощью ускорённого ИИ-планирования.
Анонс нашего партнёрства с Республикой Корея.
Ускорение научных открытий в Индии через ИИ для науки и образования.
Укрепление нашего партнёрства с правительством Великобритании для поддержки процветания и безопасности в эпоху ИИ.
Углубление нашего партнёрства с Институтом безопасности ИИ Великобритании.
Google DeepMind поддерживает Министерство энергетики США в проекте Genesis: национальной миссии по ускорению инноваций и научных открытий.