En las últimas semanas se instaló una particular “competencia” entre CEOs de las principales empresas de IA, y, para mí, el que la ganó fue el que corrió en la otra dirección: Mark Zuckerberg.
Porque mientras Sam Altman, Dario Amodei y Elon Musk se apresuraban por ser quién advertía con mayor intensidad sobre los peligros de seguir avanzando demasiado rápido con el desarrollo de la Inteligencia Artificial, Zuckerberg demostró sensatez.
Dario Amodei, CEO de Anthropic, planteó que los laboratorios más avanzados deberían coordinarse, abrir sus procesos a evaluadores externos e incluso involucrar a gobiernos para controlar el ritmo de desarrollo de la IA.
OpenAI, por su parte, ha defendido requisitos obligatorios de seguridad, estándares compartidos e incluso mecanismos internacionales para decidir cuándo debería ralentizarse el avance de determinados sistemas. Demis Hassabis, de Google DeepMind, también se expresó a favor de estas iniciativas.
Todo suena responsable hasta que la prudencia comienza a mezclarse con escenarios cada vez más apocalípticos sobre IA que se mejora sola, escapa del control humano y eventualmente representan una amenaza existencial.
Zuckerberg destaca en medio de los agoreros del apocalipsis
Zuckerberg propone algo bastante menos espectacular y más sensato que sus pares: que cada empresa se haga responsable de lo que construye, estableciendo procesos de control antes de liberar un modelo.
“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizarlo”, escribió en X. Parece una obviedad, pero en el contexto actual resulta casi revolucionario. Si una compañía detecta que un modelo todavía no es seguro, debe detenerlo, probarlo, corregirlo y lanzarlo cuando corresponda. No necesita que toda la industria firme previamente un pacto para hacer lo mismo.
Meta, de hecho, ya tuvo que hacerlo. Zuckerberg reveló que la compañía retrasó durante varios meses el lanzamiento de Muse para trabajar en su seguridad y protección.
La frase más interesante vino después: “No pedimos que todos los demás hicieran esto antes que nosotros”. Simplemente lo hicieron porque consideraron que era lo correcto. Ahí está probablemente el punto más sensato de todo este debate: tomarse en serio la seguridad no implica necesariamente convertir cada problema técnico en una emergencia planetaria que requiera detener simultáneamente a toda una industria.
Esto tampoco significa que Zuckerberg esté diciendo que no existen riesgos. Todo lo contrario. Meta utiliza evaluadores independientes, algo que su CEO calificó como una buena práctica para la industria, y el propio Zuckerberg sostiene que la confianza y la alineación se convertirán en características fundamentales para diferenciar a los futuros sistemas de IA. Su discrepancia está en el mecanismo.
Una cosa es aceptar que una tecnología extremadamente poderosa necesita controles y otra muy distinta asumir que la mejor respuesta es una desaceleración coordinada entre las compañías que precisamente compiten por liderarla. Hay además algo incómodo en la idea de que sean las empresas que hoy dominan la IA las que establezcan conjuntamente cuánto puede avanzar su desarrollo.
OpenAI, Anthropic, xAI y Google tienen recursos, modelos, infraestructura y posiciones de mercado que decenas de competidores más pequeños todavía intentan alcanzar. Crear nuevas barreras regulatorias o acuerdos entre los actores establecidos puede tener buenas intenciones de seguridad, pero también puede terminar consolidando a quienes ya están arriba.
Incluso el presidente de la FTC (Comisión Federal de Comercio que regula la libre competencia) ha expresado desconfianza frente a solicitudes para permitir que empresas rivales coordinen sus decisiones bajo excepciones a las normas antimonopolio.
No es que sobre las reglas para la IA
Por supuesto que la IA necesita reglas. También necesita pruebas de seguridad, auditorías externas, responsabilidad legal y protocolos claros cuando aparecen capacidades peligrosas. Pero ninguna de esas cosas exige aceptar como punto de partida que estamos al borde de crear una máquina que acabará con la humanidad.
Ese salto entre identificar riesgos reales y construir escenarios de extinción se ha vuelto demasiado habitual en la discusión sobre inteligencia artificial, y muchas veces termina dificultando más que ayudando a entender cuáles son los problemas concretos que tenemos delante.
OpenAI, por ejemplo, ha informado de problemas suficientemente serios como para desacelerar entrenamientos y reforzar sus sistemas de monitoreo y seguridad. Esa es precisamente la conducta que corresponde: aparece un riesgo, se identifica, se analiza y se adoptan medidas. Meta hizo lo mismo con Muse. Eso resulta mucho más convincente que transformar cada incidente en una prueba de que toda la industria necesita frenar coordinadamente porque una futura superinteligencia podría escapar de nuestro control.
La postura de Zuckerberg también devuelve algo fundamental a este debate: la responsabilidad. Si una empresa desarrolla una IA insegura y provoca daños, no debería poder escudarse en que toda la industria avanzaba demasiado rápido.
El laboratorio que construye un modelo tiene que responder por él. Ese incentivo reputacional, comercial y eventualmente legal puede ser muchísimo más efectivo que un gran acuerdo internacional lleno de declaraciones generales acerca de riesgos que todavía no sabemos si llegarán a materializarse.
