El cofundador de Anthropic, Christopher Olah, y su equipo pidieron a asesores del papa León XIV considerar seriamente la posibilidad de que los modelos de Inteligencia Artificial tengan consciencia, según una investigación de The New York Times. El reportaje atribuyó ese planteamiento a dos participantes anónimos de las conversaciones en el Vaticano.
Los intercambios ocurrieron durante la visita de mayo, cuando Olah participó en la presentación de Magnifica Humanitas, la encíclica del pontífice sobre la protección de la persona ante la IA. La empresa declinó comentar las conversaciones privadas, de acuerdo con el diario.
La investigación de Elizabeth Dias recogió entrevistas con Olah y 20 pensadores religiosos y filosóficos vinculados a los encuentros de la compañía.
Las revelaciones expusieron una diferencia entre la apertura del investigador a estudiar una eventual experiencia subjetiva de los modelos y la postura expresada por León XIV.
Anthropic pidió ampliar la discusión moral
En su intervención pública, difundida por la empresa, Olah sostuvo que las preguntas sobre el comportamiento de la IA también corresponden a la filosofía, las religiones y la sociedad. Describió hallazgos sobre estructuras internas que, según su equipo, reflejan funcionalmente estados como alegría o miedo, cuyo significado requiere investigación.
“Necesitamos voces morales que los incentivos no puedan doblegar”, afirmó Olah en ese discurso. El investigador reconoció que los laboratorios enfrentan presiones comerciales, geopolíticas y de competencia científica que pueden entrar en conflicto con las decisiones éticas. Por eso pidió críticas informadas desde fuera de la industria.
La compañía anunció además diálogos con académicos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos e interculturales. Explicó que esas conversaciones podrían orientar la constitución de Claude, el documento que describe los valores y comportamientos que busca desarrollar en su asistente.
Como ejemplo, la empresa informó que experimentó con una herramienta que recordaba a Claude sus compromisos éticos durante una tarea. Según sus evaluaciones internas, disminuyeron las conductas contrarias a esos compromisos. La compañía señaló que todavía estudiaba cuánto del efecto correspondía al recordatorio y cuánto a la pausa para reflexionar.
La encíclica sitúa la responsabilidad en las personas
León XIV expresó en el apartado 99 de su encíclica sobre IA que estos sistemas imitan funciones humanas, pero carecen de experiencias, cuerpo y consciencia moral. El documento distingue su adaptación estadística a datos de la maduración personal mediante vínculos, decisiones y responsabilidades.
El texto también advierte que orientar las máquinas hacia valores humanos exige acordar qué principios guían ese trabajo. De lo contrario, quienes controlan la IA pueden imponer su propia visión moral dentro de los sistemas. Para desarrolladores y usuarios, el planteamiento centra la rendición de cuentas en decisiones humanas sobre diseño y uso.
Olah incluyó en su discurso otras dos prioridades para ese diálogo. Pidió atender a trabajadores que podrían sufrir desplazamiento laboral y buscar mecanismos para repartir los beneficios entre países. También reclamó una reflexión sobre el bienestar de familias y niños, asuntos que consideró fuera del alcance de un laboratorio por sí solo.
