San Francisco exigió a Apple y Google retirar 13 apps de deepfakes sexuales de App Store y Google Play, además de cortar sus relaciones comerciales con los desarrolladores señalados. La fiscalía de la ciudad sostiene que ambas compañías facilitan y monetizan imágenes íntimas no consentidas mediante la distribución de apps y los pagos dentro de ellas.
La medida no es una sentencia ni una admisión de responsabilidad. Es una exigencia legal previa a una eventual demanda. Las empresas tienen 28 días para explicar cómo cumplirían y que, si no lo hacen, la ciudad podría buscar sanciones civiles de al menos 25.000 dólares por infracción.
El expediente alcanza a 13 apps en total: ocho en App Store y cinco en Google Play. Las denuncias las describen como herramientas de intercambio de rostros que pueden terminar generando desnudos o escenas sexualizadas de personas reales sin su permiso. Los nombres de las apps se han mantenido en un perfil bajo.
Las dos plataformas ya reportaron movimientos. Google suspendió las cinco apps de Android citadas y dijo que también ha retirado cientos de apps parecidas por infringir sus políticas. Apple dijo al mismo medio que retiró tres de las apps señaladas, que está cerrando algunas cuentas de desarrollador y que otras siguen bajo revisión.
Qué exigen las cartas sobre deepfakes sexuales en las tiendas de apps
Las cartas no se limitan a pedir que desaparezcan esas 13 apps. También exigen que Apple y Google dejen de procesar pagos para este tipo de servicios, rompan vínculos con sus desarrolladores y establezcan revisiones recurrentes para detectar nuevas publicaciones similares antes de que vuelvan a ocupar su lugar.
Ese punto cambia el foco desde una baja puntual hacia la responsabilidad de plataforma. Tanto Apple como Google prohíben contenido sexual explícito y abusivo en sus reglas para desarrolladores, pero la fiscalía sostiene que eso no ha impedido que sigan apareciendo apps presentadas como herramientas de edición o intercambio de rostros con funciones orientadas a crear deepfakes sexuales.
La oficina del fiscal David Chiu sostiene que ambas empresas conocen el problema de los deepfakes sexuales desde hace meses. Entre los antecedentes que cita están una advertencia de fiscales estatales en 2025 y las investigaciones del Tech Transparency Project, que detectaron decenas de apps de este tipo activas o promovidas dentro de las búsquedas de las propias tiendas.
La ley de California sobre deepfakes sexuales que pone a prueba a Apple y Google
El trasfondo jurídico es la sección 1708.86 del Civil Code de California, vigente en su forma actual desde enero de 2026. Esa norma permite demandar no solo a quien crea o difunde deepfakes sexuales sin consentimiento, sino también a quien lo facilite o ayude de manera temeraria.
El texto presume esa ayuda cuando un proveedor sigue dando servicios a una app cuyo propósito principal es crear ese material después de recibir evidencia suficiente y no corta el apoyo dentro de 30 días.
La misma norma autoriza a fiscales públicos a pedir medidas cautelares y multas de 25.000 dólares por infracción, o 50.000 si hubo mala fe. Por eso el caso no se reduce a una discusión de moderación de contenidos: también prueba hasta dónde puede llegar la responsabilidad de App Store y Google Play cuando el negocio incluye alojamiento, visibilidad y cobro dentro de la app.
Las cifras que rodean el mercado ayudan a entender la presión. En enero, el Tech Transparency Project dijo haber encontrado 55 apps de este tipo en Google Play y 47 en App Store. Con datos de AppMagic, ese grupo estimó más de 705 millones de descargas y 117 millones de dólares en ingresos globales, aunque esas cifras no fueron auditadas de forma independiente.
En abril, otro informe del mismo grupo sostuvo que las búsquedas y anuncios dentro de las tiendas seguían empujando a los usuarios hacia estas herramientas.
En EEUU, este frente estatal se suma a otras vías recientes, como la Take It Down Act, que ya abrió mecanismos de retiro rápido para imágenes íntimas no consentidas. La diferencia aquí es que San Francisco está llevando la presión a la capa de distribución y pagos de las apps, con un plazo abierto y la amenaza explícita de pasar de las cartas a una acción civil.
Fuentes
- WIRED: San Francisco exige a Apple y Google retirar apps de deepfakes sexuales
- San Francisco Chronicle: San Francisco amenaza a Apple y Google con acciones legales por apps de desnudos falsos
- California Legislature: Civil Code 1708.86
- Tech Transparency Project: apps de nudify disponibles en Apple y Google
- Tech Transparency Project: Apple y Google siguen dirigiendo usuarios a apps de nudify
