Google Research usó SafetyCore como caso de uso concreto para presentar una nueva arquitectura de analítica privada que permite medir el rendimiento de herramientas de IA en dispositivos Android sin acceder al contenido de los usuarios. La noticia llegó el 27 de mayo de 2026 a través de una publicación firmada por Adrià Gascón y Mariana Raykova, dos investigadores de Google Research, y detalla un sistema que combina criptografía avanzada con hardware protegido bajo un principio de zero-trust.
Una respuesta a un problema práctico que lleva años sin solución clara: cómo mejorar modelos de IA que corren en millones de teléfonos sin que los datos de cada persona salgan del dispositivo.
Cuando un modelo de IA corre directamente en un teléfono, los equipos de desarrollo necesitan saber si ese modelo funciona. Necesitan saber si acierta, falla, se degrada con el tiempo o responde peor en ciertos contextos. Esa información es la base para ajustar filtros, umbrales y lógica de detección. El problema es que recopilarla de forma directa implica acceder a información sensible, y en apps como SafetyCore, que clasifican contenido en el propio dispositivo sin compartirlo con Google, ese acceso no está disponible ni debería estarlo. Sin una solución adecuada, los equipos enfrentaban un dilema simple: o sacrificaban la privacidad para obtener métricas útiles, o renunciaban a las métricas para respetar la privacidad.
Cómo funciona la arquitectura de analítica privada
El sistema combina tres capas. La primera es agregación segura: en vez de analizar lo que ocurrió en cada dispositivo, el sistema observa tendencias agrupadas de una población. Si miles de teléfonos reportan si una función de seguridad detectó correctamente una amenaza o no, el servidor obtiene el patrón general sin saber qué pasó en cada uno. La segunda capa es privacidad diferencial: ruido matemático que dificulta inferir datos de una persona específica a partir del agregado. La tercera son los entornos de ejecución confiables (TEE): áreas protegidas del procesador donde el programa corre con restricciones estrictas sobre lo que puede transmitir.
Google ya usaba TEE con privacidad diferencial en Pixel Recorder. Lo que cambia aquí es que las dos protecciones se combinan de forma independiente: si el hardware fallara, la capa criptográfica sigue protegiendo los datos, y al revés. Eso es lo que Google llama zero-trust: el sistema no depende de que ningún componente sea 100% confiable.
Una limitación real de los sistemas anteriores de analítica federada era operativa: los dispositivos necesitaban varias rondas de comunicación con el servidor, lo que obligaba a mantener la conexión activa durante períodos largos. El nuevo protocolo lo resuelve con un solo mensaje. Cada dispositivo cifra y envía toda su información de una vez, sin rondas adicionales. El método se basa en criptografía de redes de retículos (lattice-based cryptography): los datos cifrados de cada dispositivo pueden sumarse directamente sin descifrarlos, y solo el valor final ya agregado y anonimizado puede descifrarse. Google señala que eso hace viable esta analítica a escala industrial sin comprometer las garantías de seguridad.
SafetyCore y lo que puede cambiar para el resto de productos con IA
Android System SafetyCore es un servicio del sistema disponible en dispositivos con Android 9 o superior. Provee infraestructura local para funciones de seguridad: la clasificación del contenido ocurre en el propio dispositivo y los resultados no se comparten con Google. Eso es exactamente lo que lo convierte en el caso de uso ideal para este sistema. Google Research explica que SafetyCore usará esta arquitectura para evaluar metadatos de eficacia de sus herramientas sin ver el contenido que activó una alerta, lo que permite medir tasas de acierto y falsos positivos sin mover material sensible a los servidores.
Más allá de SafetyCore, el modelo tiene implicaciones para cualquier producto con IA en millones de dispositivos. Google ya aplica analítica federada en Gboard y Pixel Recorder; esta arquitectura representa una versión más segura de ese mismo principio. Google sigue ampliando su frente de productos con IA en varias direcciones a la vez, como también se ve en el rediseño de Search con AI Mode y agentes. En este caso, el foco no está en la interfaz, sino en la capa de medición que hace posible mejorar esos sistemas sin abrir el acceso a datos sensibles.
Por ahora es una propuesta técnica ligada a un caso de uso concreto dentro de Android. Queda ver si se extiende a otros productos, cómo se audita en entornos reales y qué límites aparecen al escalarla. Lo confirmado es que Google tiene una nueva forma de medir SafetyCore y que la arquitectura que usa puede convertirse en el estándar para todo lo que venga después.
Fuentes
Google Research: Private analytics via zero-trust aggregation
Google Support: Understanding Android System SafetyCore
