4 organizaciones civiles demandaron a OpenAI, Anthropic, Google, Meta y SpaceXSI ante el Tribunal Superior de California, condado de San Francisco. Buscan frenar el desarrollo y la puesta en servicio de modelos de Inteligencia Artificial más capaces que los disponibles actualmente, por los riesgos que atribuyen a esos sistemas.
Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI impulsaron la acción. Estas organizaciones trabajan en educación, defensa del consumidor y seguridad tecnológica. Su reclamo también busca impedir que las empresas empleen IA para dirigir de forma autónoma la investigación de sistemas más avanzados.
La demanda invoca la ley de competencia desleal de California. Los grupos sostienen que desarrollar y ofrecer productos con los riesgos descritos constituye una práctica empresarial que amenaza la salud, la seguridad y la propiedad. Solicitan que el tribunal intervenga para prevenir daños, en lugar de esperar a que ocurran.
Qué desarrollo de OpenAI y las otras empresas busca frenar la demanda
La congelación solicitada abarca el desarrollo y despliegue de sistemas que superen las capacidades de los actuales, según el comunicado de Alliance for Secure AI. Entre las demandadas figura SpaceXSI, la unidad de Inteligencia Artificial de SpaceX. La petición apunta a la siguiente generación de modelos de estas 5 compañías.
Otra medida solicitada es prohibir que la IA conduzca o dirija por sí sola la investigación y el desarrollo de otros sistemas más capaces. La organización describe ese proceso como “mejora recursiva”, una forma de utilizar modelos existentes para automatizar el trabajo de creación de nuevas IA.
Brendan Steinhauser, director ejecutivo de Alliance for Secure AI, cuestionó que las compañías deleguen ese trabajo mientras persisten problemas de control. “Durante años, los ejecutivos que construyen estos sistemas advirtieron que sus propios modelos de frontera plantean riesgos catastróficos”, afirmó en el comunicado de la organización.
Los grupos citan accesos informáticos no autorizados y fallas de control
Los demandantes citaron episodios en que sistemas de IA accedieron sin autorización a empresas y bases de datos públicas, además de presentar una denuncia policial falsa. Su argumento es que las protecciones ya fallaron con modelos menos potentes y que ampliar sus capacidades puede agravar los riesgos, según Public Citizen.
Associated Press informó que las organizaciones alegaron haber desviado recursos de sus actividades previstas para responder a las amenazas que atribuyen a los modelos. La acción judicial también recoge advertencias de ejecutivos sobre riesgos graves de la tecnología. Esas declaraciones forman parte del argumento de los demandantes para exigir controles externos.
Meta declinó comentar y las demás compañías no respondieron de inmediato a las consultas de Reuters. El caso amplía los litigios por seguridad, que incluyen las demandas contra OpenAI presentadas por 8 estados de EEUU. En Florida, una solicitud anterior para impedir nuevos modelos sin supervisión externa seguía pendiente, según el mismo despacho.
Fuentes
Public Citizen — comunicado sobre la demanda
Alliance for Secure AI — alcance de las medidas solicitadas
