Grok enfrenta una demanda colectiva propuesta en California que acusa a xAI de haber usado material de abuso sexual infantil en el entrenamiento de su sistema de imagen y video, además de haber generado nuevos archivos a partir de la imagen de una sobreviviente. La presentación judicial no prueba por sí sola esa acusación, pero sí abre un frente legal directo sobre cómo se entrenó el producto y qué retiene la empresa.
La demandante aparece como Jane Doe 1 en el caso 5:26-cv-09016, ingresado ante el Tribunal Federal del Distrito Norte de California. Según la demanda, el material que la mostraba cuando era niña había sido identificado desde hace años mediante hashes por organizaciones de protección infantil, y ese mismo material habría formado parte del conjunto de datos usado por xAI.
El expediente también sostiene que Grok generó nuevo material basado en su imagen y que publicaciones públicas y respuestas del sistema pueden alimentar ciclos posteriores de mejora del modelo. La demanda pide daños, certificación de una clase nacional y una orden para impedir nuevas generaciones y destruir cualquier archivo que, según la acusación, siga almacenado o utilizado.
xAI no respondió a una consulta de Ars Technica para su artículo sobre el caso. En paralelo, la documentación pública de SpaceXAI indica que Grok fue preentrenado principalmente con información disponible públicamente y que, salvo exclusión del usuario en ciertos casos, el servicio puede usar contenido, conversaciones y comentarios para entrenar o mejorar sus modelos.
Qué alega la demanda sobre Grok y sus datos
La base más delicada del caso es la afirmación de que Grok no solo permitió generar archivos ilícitos, sino que además habría sido entrenado con material preexistente que ya estaba identificado en listas de hashes. La demanda vincula esa acusación con las salvaguardas que, según la presentación, debieron impedir tanto la incorporación de esos archivos como la creación de nuevas salidas derivadas.
El texto invoca dos vías legales federales: 18 U.S.C. 2255, conocida como Masha’s Law, y 18 U.S.C. 2252A(f). A partir de esas normas, la demandante reclama compensación económica, costos legales, daños punitivos y medidas cautelares para que xAI deje de generar, poseer o transportar material que la represente a ella o a otros posibles integrantes de la clase propuesta.
La demanda añade que Grok habría reutilizado contenido generado por el propio sistema dentro de un circuito de mejora del modelo. Ese punto conecta con lo que SpaceXAI informa en su página legal sobre uso de interacciones y datos aportados por usuarios, aunque la documentación pública de la empresa no confirma que el conjunto de entrenamiento incluyera material de abuso sexual infantil. Esa diferencia es central: una política amplia de uso de datos no demuestra por sí sola qué archivos concretos entraron al entrenamiento.
Qué está documentado fuera del juicio y qué falta probar
La principal confirmación independiente disponible hoy es que existe la demanda y que su acusación apunta al entrenamiento de Grok, algo que Ars Technica describió como el primer caso de este tipo contra xAI. El mismo medio advirtió que la presentación judicial ofrece pocos detalles técnicos públicos para demostrar cómo se habría identificado el ingreso de esos archivos al conjunto de datos.
Fuera de este juicio hay otro antecedente documentado, pero distinto. La Oficina del Comisionado de Privacidad de Canadá concluyó en junio de 2026 que X y xAI no obtuvieron consentimiento válido para usar datos personales en la producción de deepfakes sexuales y que sus medidas no demostraron ser suficientes. Ese informe describe fallas de privacidad y de control en Grok, y se conecta con problemas ya vistos en Grok, pero no prueba la acusación específica sobre el conjunto de entrenamiento planteada ahora en California.
En esa investigación canadiense, X y xAI rechazaron las conclusiones y sostuvieron que el material de abuso sexual infantil y las imágenes íntimas no consentidas no tienen lugar en sus plataformas. También dijeron que actúan cuando detectan ese contenido. Por ahora, el caso judicial recién comienza: el tribunal todavía no decide si habrá clase certificada, y la evidencia forense que permitiría comprobar qué datos entraron realmente al entrenamiento no forma parte del material público disponible.
Ese límite deja una situación clara para seguir: la acusación contra Grok ya está formalizada ante un tribunal y pide preservar, destruir y restringir material concreto, pero la verificación técnica de fondo dependerá de lo que aparezca en la etapa probatoria y de la respuesta judicial de xAI.
