Google DeepMind y GovTech desarrollaron un detector de estafas basado en Gemma que analiza conversaciones en el propio dispositivo. Josephine Teo, ministra de Desarrollo Digital e Información de Singapur, presentó la colaboración durante la Singapore International Cyber Week, una conferencia internacional sobre ciberseguridad.
GovTech (Government Technology Agency of Singapore, Agencia de Tecnología del Gobierno de Singapur) trabaja con el laboratorio de Google para detectar señales de manipulación antes de que una persona entregue dinero o credenciales. Teo afirmó que la colaboración busca reforzar la protección sin sacar los mensajes personales del dispositivo.
El modelo fue optimizado para teléfonos habituales de Singapur. Google DeepMind presentó el desarrollo sin anunciar fecha de descarga, aplicaciones compatibles, precio ni disponibilidad en Chile. La propuesta contempla que proveedores de mensajería y sistemas operativos integren la protección local.
Gemma analiza las conversaciones en dos etapas
Un clasificador ligero revisa primero los mensajes entrantes. Los casos sospechosos pasan a una versión de Gemma adaptada para analizar varios mensajes y detectar patrones de manipulación. La separación de tareas busca reducir el consumo de batería.
Cuando identifica una posible estafa, genera una advertencia en tiempo real que recomienda pausar antes de compartir información o fondos. El análisis permanece dentro del dispositivo, una característica que permite examinar conversaciones sin enviarlas a servidores externos.
El ajuste utilizó ejemplos locales de suplantaciones de bancos, instituciones y figuras públicas. Se realizó en un entorno de Google Cloud Platform administrado por GovTech, con conjuntos anonimizados derivados de denuncias e información sobre estafas; excluyó datos privados o que identificaran ciudadanos.
Las pruebas incluyeron diálogos sintéticos y conversaciones locales sobre distintas categorías de engaño. La familia Gemma proporciona el modelo ligero que el equipo adaptó para este trabajo.
La defensa conecta mensajes, plataformas y bancos
Teo explicó que una estafa puede comenzar en una red social, continuar en una aplicación de mensajería, incorporar una llamada y terminar en una transferencia bancaria. Cada etapa ofrece una oportunidad de intervención, pero ningún participante observa por sí solo toda la cadena.
“Debemos conectar nuestras defensas”, dijo la ministra durante su discurso. Planteó que una señal detectada en una parte del sistema debería permitir actuar en otras. También señaló que la IA abarata la suplantación y permite personalizar los engaños para alcanzar a más víctimas.
GovTech y la Policía de Singapur desarrollaron SATIS (Scam Analytics and Tactical Intervention System, Sistema de Análisis de Estafas e Intervención Táctica). Esta herramienta analiza más de 600.000 sitios web al día e interrumpe unos 20.000 sitios maliciosos mensuales. Su alcance también incluye números móviles y plataformas sospechosas.
La policía compartió información que ayudó a Meta a eliminar o restringir casi 3,8 millones de entidades, páginas y cuentas vinculadas con estafas en Facebook e Instagram. La colaboración con Google añade a esa estrategia el análisis de conversaciones dentro del dispositivo.
