OpenAI confirmó que trabaja con Anthropic y Google en la creación de un organismo común para la seguridad de IA. Las conversaciones siguen abiertas: la entidad todavía no existe, no tiene estatuto ni ha aprobado reglas o un calendario.
La propuesta contempla evaluar modelos avanzados antes de su despliegue. Una revisión de ese tipo podría añadir pruebas compartidas antes de que nuevos sistemas lleguen a empresas, desarrolladores y usuarios, aunque todavía no se han definido los modelos sometidos a examen ni los criterios aplicables.
La idea fue planteada originalmente por Demis Hassabis, CEO de Google DeepMind. Su diseño toma como referencia a FINRA, la organización privada que supervisa a corredores de valores en EEUU bajo control federal, pero la comparación no implica que el futuro organismo tendría facultades legales equivalentes.
Las conversaciones comenzaron antes de las recientes alarmas sobre seguridad en el sector. OpenAI confirmó públicamente el trabajo conjunto después de que CNN informara que representantes de las tres empresas no habían comentado su reporte inicial.
Seguridad de IA: pruebas antes del despliegue
Hassabis propuso una asociación público-privada liderada por EEUU y financiada principalmente por la industria. El organismo probaría sistemas avanzados antes de su lanzamiento y necesitaría infraestructura de cómputo suficiente para realizar evaluaciones a gran escala.
«El financiamiento tendría que ser considerable y probablemente provenir en su mayoría de la industria», afirmó Hassabis. Su propuesta añade que esos recursos permitirían contratar personal técnico de alto nivel y cubrir el costo de las pruebas.
El plan también contempla supervisión pública, especialistas independientes y representantes del software de código abierto. Esa composición buscaría evitar que las evaluaciones quedaran únicamente en manos de funcionarios o de los laboratorios con mayor participación en el mercado.
La revisión previa sería distinta de las evaluaciones de seguridad de IA que comparan políticas y prácticas ya declaradas por las empresas. La nueva entidad examinaría modelos concretos antes de su disponibilidad, aunque no está definido si sus resultados serían vinculantes, públicos o reservados.
Quién escribiría las reglas y qué falta por definir
El origen industrial del financiamiento abre dudas sobre independencia y concentración de poder. Aiden Gomez, CEO de Cohere, advirtió que el debate debe precisar quién redactará las normas, quién podrá participar y qué intereses quedarán protegidos. Tampoco se conoce cómo estarían representadas las empresas pequeñas, la comunidad de código abierto o investigadores externos.
Sam Altman, CEO de OpenAI, respaldó la coordinación entre compañías. «Me parece positivo que nuestra industria diga que quiere reunirse, coordinarse», señaló durante una conferencia de Salesforce. También vinculó el temor público con la percepción de que la competencia comercial puede desplazar las medidas de seguridad.
El respaldo de OpenAI confirma que la propuesta superó la etapa de una idea presentada únicamente por Hassabis, pero no equivale a un acuerdo final. Anthropic y Google no han anunciado condiciones de adhesión, autoridades, presupuesto ni procedimientos para resolver desacuerdos.
También sigue pendiente la relación con reguladores nacionales. Un organismo financiado por empresas podría establecer pruebas técnicas comunes, pero sus decisiones no sustituirían leyes, supervisores públicos ni obligaciones vigentes sin un marco formal que le conceda esas funciones.
