Bernie Sanders y Greg Casar presentaron formalmente en el Congreso de EEUU el proyecto Ban Artificial Superintelligence Act, que propone prohibir la superinteligencia artificial y pausar el desarrollo de otros sistemas avanzados de IA. El texto legislativo, ahora disponible, precisa qué sistemas quedarían cubiertos y cómo actuaría la nueva autoridad federal.
La iniciativa define como sistema avanzado aquel entrenado con al menos 10 elevado a 25 operaciones de cómputo. El umbral se ajustaría cada año para reflejar mejoras en los métodos de entrenamiento. Es un criterio distinto de la definición de superinteligencia, basada en capacidades.
Sanders y Casar anunciaron la propuesta a comienzos de septiembre, cuando todavía no se conocía su articulado. El documento presentado ahora detalla requisitos de autorización previa, medidas sobre modelos considerados peligrosos y sanciones diferenciadas para empresas y personas.
“Cuando se corre hacia un precipicio, no basta con levantar el pie del acelerador; hay que frenar”, expresó Sanders en el comunicado de presentación. Su comparación acompañó la propuesta de suspender temporalmente el desarrollo de los modelos más avanzados mientras se crean reglas federales.
La superinteligencia artificial y el umbral de la pausa
El proyecto considera superinteligencia artificial a un sistema que supere el desempeño cognitivo humano en la mayoría de ámbitos o tenga capacidades suficientes para planificar y ejecutar la destrucción o pérdida de poder de la humanidad. También abarca modelos que puedan modificarse fácilmente para adquirir esas capacidades.
La pausa se aplicaría desde la entrada en vigor de una eventual ley a los sistemas avanzados. Impediría entrenarlos, modificarlos o afinarlos, y bloquearía el despliegue de modelos avanzados todavía no lanzados. El texto permite intervenirlos para eliminar características precursoras de superinteligencia o dejarlos inoperativos.
El futuro Departamento de Inteligencia Artificial tendría que estar dotado de personal y dictar reglas antes de levantar la pausa. Estas incluirían aviso previo de los planes de desarrollo, evaluaciones durante todo el ciclo del modelo, auditorías de seguridad y autorización final antes del lanzamiento público.
Además de la prohibición sobre la superinteligencia, el articulado incluye sistemas con características precursoras: capacidad de acelerar investigación en IA, acceder sin permiso a infraestructura protegida, eludir intentos de apagado, mejorar su propio funcionamiento o facilitar armas nucleares, químicas o biológicas.
Licencias, retiro de modelos y penas de hasta 20 años
El departamento propuesto podría exigir una licencia para desarrollar o distribuir modelos avanzados. Tendría acceso a sistemas, procesos, personal e infraestructura para supervisarlos. También evaluaría los modelos antes, durante y después del entrenamiento y tras su despliegue.
Si identificara características precursoras, la autoridad ordenaría pausar el sistema y aislarlo de internet. Si en 30 días no pudiera comprobar que esas capacidades fueron eliminadas, debería dejarlo inoperativo. Para un sistema clasificado como superinteligencia artificial, el texto exige hacerlo de inmediato.
Las penas de cárcel de hasta 20 años se dirigirían a directivos con funciones de decisión y a personas externas que infringieran temerariamente las prohibiciones o requisitos. Para otros trabajadores, el proyecto establece una inhabilitación de diez años en la industria, con posibilidad de revisión y una excepción para denunciantes.
En el caso de las empresas, la llamada “pena de muerte corporativa” se concreta en la revocación de la licencia. El proyecto prevé revisión judicial y, si se confirma la infracción, el decomiso de activos y propiedad intelectual necesarios para destruir los sistemas o equipos vinculados. También propone acuerdos internacionales y controles de exportación para extender la restricción fuera de EEUU.
Fuentes
Texto del proyecto de ley · Oficina de Bernie Sanders · Oficina de Greg Casar
