Google DeepMind и GovTech Singapore описали совместную систему для обнаружения мошеннических разговоров, рассчитанную на работу непосредственно на устройстве пользователя. За основу взят язык модели Gemma, адаптированный для выявления локальных схем обмана.
Архитектура включает два этапа: быстрый классификатор сначала оценивает входящие сообщения, а затем дообученная модель выполняет более подробный контекстный анализ части разговора. При выявлении признаков манипуляции система должна предупреждать пользователя до передачи денег или конфиденциальных сведений.
Разработчики планируют поэтапную интеграцию в приложения и заявляют о доступе к разговорам только с согласия пользователя; при локальном выполнении анализ не требует передачи переписки третьим сторонам через этот механизм.
Отмечено, что обучение велось на обезличенных данных о мошенничестве с проверками на синтетических диалогах и локальных корпусах. В опубликованном описании отсутствуют показатели, позволяющие независимо оценить точность обнаружения и число ложных срабатываний, поэтому анонс не равен гарантированной защите от всех схем мошенничества и не подтверждает доступность функции во всех мессенджерах.