Texas demandó a OpenAI y a su director ejecutivo, Sam Altman, por presunto engaño a los consumidores sobre la seguridad de ChatGPT. La acción pide restricciones de acceso para menores y una evaluación independiente antes de ofrecer nuevos modelos de Inteligencia Artificial a los usuarios del estado.
Ken Paxton, fiscal general de Texas, presentó el caso ante un tribunal del condado de Collin. Su oficina acusa a la compañía de comercializar el chatbot como una herramienta segura y confiable mientras mantenía protecciones insuficientes para niños y personas vulnerables.
OpenAI defendió su trabajo con especialistas para reducir riesgos y desarrollar salvaguardas adicionales. La empresa dijo a The Texas Tribune que está comprometida a colaborar con Texas y otros estados en políticas para la industria. El caso se suma a las demandas de otros ocho estados por la seguridad del servicio.
Texas acusa a OpenAI de ocultar riesgos y fallar en la protección de menores
La fiscalía sostiene que los modelos pueden entregar información falsa o dañina sin advertencias suficientes. Su comunicado menciona respuestas relacionadas con violencia, autolesiones, dependencia del chatbot y pérdida de habilidades críticas. También cuestiona la recopilación de datos de menores sin supervisión parental adecuada.
“OpenAI tiene la responsabilidad de proteger a los usuarios y advertirles de los muchos peligros de su plataforma”, dijo Paxton en el comunicado de su oficina. El fiscal atribuyó los daños denunciados a la prioridad que, según él, la compañía dio a competir y aumentar su valor.
La acción invoca la DTPA (Texas Deceptive Trade Practices—Consumer Protection Act, ley de prácticas comerciales engañosas y protección al consumidor de Texas). Añade reclamaciones bajo la SCOPE Act (Securing Children Online through Parental Empowerment Act, ley de protección infantil en línea mediante facultades para los padres).
El escrito busca que Altman responda personalmente por su presunta participación en las conductas denunciadas. Texas también cuestiona los mecanismos para verificar la identidad de padres o tutores y su relación con menores que utilizan el servicio. Son reclamaciones planteadas por el estado ante el tribunal.
La fiscalía pide controles sobre el acceso y los nuevos modelos
Entre las medidas solicitadas figura impedir el lanzamiento de nuevos modelos a usuarios de Texas hasta que un evaluador independiente, aprobado por el tribunal, revise sus controles de seguridad y autorice su salida. El petitorio busca impedir que ChatGPT se ofrezca a menores en Texas y exige controles sobre la edad y el consentimiento parental.
La petición solicita multas civiles de US$10.000 por cada infracción de la ley de protección al consumidor, incluidas las vinculadas con la normativa infantil. También pide recuperar activos de los demandados, en los términos que permita la ley, y cubrir los gastos judiciales y de investigación.
La respuesta de OpenAI puso el foco en reglas comunes para el sector. “Los gobiernos tienen un papel importante en establecer estándares sólidos de seguridad para la IA”, afirmó un portavoz en la declaración publicada por The Texas Tribune. La empresa sostuvo que esas políticas deberían aplicarse al conjunto de la industria.
