El AI Safety Index Summer 2026 del Future of Life Institute puso a Anthropic en el primer lugar entre nueve grandes empresas de IA, seguida por OpenAI y Google DeepMind.
Pero el dato central del informe no es que haya un ganador, porque ninguna compañía superó la nota C+ (algo así como un 6 en la escala de 1 a 10) y el panel concluyó que siguen existiendo brechas en evaluación de riesgos, transparencia, gobernanza y decisiones de despliegue.
La revisión incluye a Anthropic, Alibaba Cloud, DeepSeek, Google DeepMind, Meta, Mistral, OpenAI, xAI y Z.ai. Según el resumen oficial, OpenAI pasó a liderar la categoría de evaluación de riesgos, Meta subió del sexto al cuarto lugar y xAI cayó del cuarto al séptimo.
Medios como Axios confirmaron además otro punto del informe: varias empresas se han alejado de compromisos voluntarios previos de frenar el desarrollo si se acercaban a ciertos umbrales de peligro.
Qué muestra el AI Safety Index sobre Anthropic, OpenAI y Google DeepMind
El índice fue elaborado por el Future of Life Institute con un panel externo de siete especialistas en IA y gobernanza. La metodología combina material público, como documentos técnicos, investigaciones, resultados de pruebas y políticas corporativas, con respuestas a una encuesta enviada a las empresas para cubrir vacíos de transparencia.
Eso significa que la clasificación depende en parte de lo que cada firma publica o decide no publicar, y también del enfoque metodológico elegido por la organización.
En la tabla general, Anthropic obtuvo C+ y una puntuación de 2,66; OpenAI recibió C con 2,28; y Google DeepMind también quedó en C con 2,01. Después aparecen Meta con D+, Z.ai y Alibaba Cloud con D-, y finalmente xAI, DeepSeek y Mistral con F.
El propio informe dice que Anthropic lideró cinco de los seis dominios analizados gracias a una combinación de mayor transparencia relativa, un marco de seguridad más desarrollado, trabajo técnico y estructura de gobernanza. OpenAI quedó mejor posicionada en evaluación de riesgos por el alcance de sus pruebas y por su trabajo con testeo externo.
Los seis dominios revisados cubren evaluación de riesgos, daños actuales, marcos de seguridad, seguridad ante riesgos extremos, gobernanza y rendición de cuentas, e intercambio de información. Visto en términos prácticos, el índice intenta medir si las empresas prueban sus modelos antes de lanzarlos, si documentan límites y fallos, si tienen reglas internas para detener o retrasar despliegues, si permiten revisión externa y si explican mejor cómo manejan usos sensibles.
El informe insiste en que incluso los líderes del ranking siguen lejos de mostrar sistemas sólidos. La categoría peor puntuada en todo el sector fue la de riesgos extremos o de pérdida de control, donde ninguna empresa pasó de C-. Los autores también cuestionan que varias medidas hoy populares, como ciertos enfoques de interpretabilidad o monitoreo, basten por sí solas para prevenir problemas graves en modelos cada vez más capaces.
Transparencia, pruebas externas y compromisos que se están debilitando
La parte más delicada para el sector no es solo la nota final, sino la tendencia que describe el reporte. El resumen de dos páginas sostiene que Anthropic, OpenAI, Google DeepMind y Meta debilitaron o anularon promesas previas de pausa unilateral si se acercaban a determinadas líneas rojas.
Esto cambia cómo conviene leer los anuncios de nuevos modelos y funciones. El punto no es si una herramienta responde mejor o genera mejores resultados, sino cuánto explica la empresa sobre pruebas peligrosas, límites de uso, revisiones externas, canales de denuncia interna y criterios para decidir si un sistema se despliega o no.
En esa discusión también entra el uso militar de la IA, un tema que el panel marcó como riesgo emergente y que ya aparece junto a debates regulatorios como el aplazamiento de reglas del AI Act para sistemas de alto riesgo.
También conviene leer el índice con una limitación clara: no es una decisión oficial de un regulador ni una certificación que garantice que un modelo sea más seguro en cualquier situación real. Es una evaluación externa basada en evidencias disponibles hasta comienzos de junio, en criterios seleccionados por el Future of Life Institute y en el juicio de un panel independiente.
Aun así, deja una señal concreta para mercado, clientes y gobiernos: el sector habla de seguridad con más frecuencia de la que muestra procesos verificables y comparables.
El resultado deja una imagen incómoda para una industria que lanza productos a gran velocidad. Las empresas mejor situadas siguen apenas en la zona media de la escala, mientras que tres actores de EEUU, China y Europa terminaron con nota reprobatoria.
Más que cerrar el debate, el AI Safety Index abre una pregunta práctica sobre qué pruebas, documentos y reglas internas deberían ser visibles antes de aceptar como suficiente cualquier promesa de seguridad.
Fuentes
