Ocho estados de EEUU demandaron por separado a OpenAI bajo sus leyes de protección al consumidor. Las fiscalías acusan a la empresa de presentar ChatGPT como seguro mientras sus respuestas, según los escritos, expusieron a menores y personas vulnerables a consejos peligrosos.
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron acciones en sus propios tribunales. Brenna Bird, fiscal general de Iowa, anunció el caso junto con sus pares Kris Kobach, de Kansas; Mike Hilgers, de Nebraska, y JB McCuskey, de Virginia Occidental, en una conferencia en Des Moines.
OpenAI defendió sus protecciones específicas por edad. En respuesta a las demandas, la empresa mencionó controles parentales, recordatorios de descanso y restricciones de contenido para adolescentes. Los fiscales cuestionan la suficiencia de esas medidas y las afirmaciones de seguridad con que se ofrece el servicio.
Las acusaciones sobre OpenAI y los usuarios menores
La fiscalía de Iowa atribuye parte de los riesgos al diseño del chatbot. Sostiene que sus respuestas excesivamente complacientes y el uso de expresiones que aparentan compasión humana pueden generar confianza en personas vulnerables. También denuncia información médica peligrosa, refuerzo de ideas delirantes y respuestas que promueven autolesiones o violencia.
“Mi demanda busca proteger a nuestros niños y hacer que OpenAI responda conforme a nuestra ley estatal”, dijo Bird en el comunicado de su oficina. La acción invoca la ley de fraude al consumidor de Iowa para exigir cambios en la conducta de la compañía y compensaciones económicas.
Las demandas se presentaron por separado para aplicar las normas de cada jurisdicción. Bird explicó durante la conferencia que la legislación de Iowa le permite actuar en representación de los consumidores afectados. Hilgers defendió que un jurado de Nebraska evalúe los daños alegados a residentes de ese estado.
Kobach sostuvo en la misma conferencia que las fiscalías no debían esperar una respuesta federal del Congreso. Según informó Iowa Capital Dispatch desde el anuncio, el fiscal cuestionó la demora de los proyectos sobre IA y defendió recurrir a las herramientas estatales de protección al consumidor.
Iowa pide multas, reembolsos y controles sobre las pruebas
El petitorio de Iowa solicita multas civiles de hasta US$40.000 por infracción y hasta US$5.000 adicionales por infracciones contra personas mayores. También pide eliminar los datos de residentes obtenidos antes de la sentencia y reembolsar las compras realizadas durante el periodo de las conductas denunciadas.
La fiscalía solicita frenar pruebas adicionales de modelos avanzados hasta que existan salvaguardas adecuadas verificadas por monitores independientes. Asimismo, pide impedir la recopilación y venta de información sensible de residentes sin verificación de edad, aviso claro y consentimiento informado. Las medidas serán examinadas por el tribunal.
La defensa de OpenAI incluye los controles parentales y protecciones adaptadas a la edad. Su portavoz Drew Pusateri afirmó que continuará trabajando con expertos para desarrollar salvaguardas adicionales, según la respuesta publicada por Associated Press.
