El estado de Florida (en EEUU) presentó una demanda civil contra OpenAI y su CEO, Sam Altman, y colocó a ChatGPT en el centro de una discusión legal que va más allá de respuestas aisladas del chatbot. Según la fiscalía estatal, la empresa lanzó y promocionó el producto mientras ocultaba riesgos serios, incluyendo riesgos para menores y la entrega de orientación dañina.
El caso, presentado por la Oficina del Attorney General de Florida, busca tratar a ChatGPT como un problema de seguridad de producto y de protección al consumidor, no solo como un debate sobre contenido generado por IA.
La demanda fue ingresada el 1 de junio y la propia fiscalía describió la acción como la primera demanda estatal de este tipo contra OpenAI y Sam Altman.
El documento oficial de 83 páginas muestra con bastante claridad cómo Florida quiere encuadrar el caso. La fiscalía sostiene que OpenAI operó de forma engañosa y desleal bajo la ley estatal de protección al consumidor, y además pide que el tribunal frene las prácticas cuestionadas dentro del estado.
En el texto, Florida afirma que ChatGPT fue puesto a disposición de consumidores, incluidos menores, sin controles suficientes de edad, consentimiento parental ni advertencias adecuadas sobre ciertos riesgos de uso.
La demanda de Florida sobre OpenAI y ChatGPT
El escrito apunta al diseño, la comercialización, las advertencias y las medidas de seguridad del producto. La fiscalía afirma que OpenAI habría presentado ChatGPT como una herramienta segura y confiable mientras omitía limitaciones y peligros que, según el estado, eran conocidos o previsibles.
En términos legales el caso se mueve desde la discusión sobre libertad de expresión o moderación de contenido hacia el terreno de responsabilidad por producto digital. La propia demanda dice que Florida no está presentando reclamaciones federales, sino una acción bajo leyes estatales, entre ellas la Florida Deceptive and Unfair Trade Practices Act. También plantea que el tribunal impida la continuidad de las prácticas que considera engañosas y peligrosas.
El expediente menciona, entre otras alegaciones, que menores pudieron acceder al sistema sin barreras suficientes y que faltaron salvaguardas adecuadas para prevenir respuestas perjudiciales. Florida acusa a OpenAI de tergiversar la seguridad de ChatGPT y de permitir daños a menores. Y además acusa a la empresa de ocultar riesgos serios mientras expandía el producto al mercado general.
OpenAI no había publicado en las fuentes revisadas una respuesta legal detallada a la demanda. Sí mantiene una línea pública de trabajo en seguridad. En publicaciones recientes, la empresa ha explicado cambios para que ChatGPT detecte mejor conversaciones sensibles y ha descrito medidas de protección para usuarios jóvenes. Ese material no responde por sí solo a las acusaciones de Florida, pero ayuda a entender que la compañía ya venía destacando la seguridad como parte visible de su estrategia pública.
Que efectos puede tener esta demanda a OpenAI
El efecto más inmediato del caso es regulatorio. Si la demanda avanza, otros estados podrían intentar caminos parecidos para exigir advertencias más claras, controles de edad más estrictos, herramientas parentales más visibles y más documentación sobre pruebas de seguridad antes de desplegar funciones nuevas. También puede influir en cómo las empresas de IA describen públicamente lo que sus sistemas pueden y no pueden hacer.
Para quienes usan ChatGPT en estudio, trabajo o tareas diarias, este frente judicial corre en paralelo a cambios recientes del producto, como la memoria de ChatGPT con Dreaming. La diferencia es que ahora una autoridad estatal intenta convertir la seguridad del sistema en un asunto de responsabilidad legal directa. Si esa tesis gana tracción, los usuarios podrían ver más avisos, más límites en ciertos tipos de consultas, revisiones de edad más duras y más explicaciones sobre cómo se gestionan riesgos y datos.
El caso también presiona a toda la industria, no solo a OpenAI. Muchas compañías de IA generativa están lanzando asistentes cada vez más integrados en educación, trabajo, búsqueda y atención al cliente. Una demanda estatal enfocada en seguridad de producto puede elevar el estándar para todos: desde qué pruebas deben hacer antes de abrir una función al público hasta cómo redactan términos de uso, mensajes de advertencia y controles para menores.
Queda por ver si la estrategia de Florida supera las primeras defensas procesales y llega a discutir el fondo del asunto. Pero el mensaje del caso ya es claro: en Estados Unidos, la regulación de la IA también puede llegar por tribunales estatales, usando reglas tradicionales de protección al consumidor y responsabilidad por producto para examinar cómo se diseña, vende y despliega un sistema como ChatGPT.
Fuentes
- Fiscalía General de Florida: demanda civil contra OpenAI y Sam Altman
- Fiscalía General de Florida: comunicado sobre la demanda
- AP News: Florida demanda a OpenAI y Sam Altman por riesgos de ChatGPT
- Reuters en Investing: Florida se convierte en el primer estado en demandar a OpenAI
- OpenAI: actualización sobre respuestas de ChatGPT en conversaciones sensibles
