Geoffrey Hinton, reconocido como “padrino de la Inteligencia Artificial” por sus aportes en el desarrollo de esta tecnología, declaró recientemente que los modelos de lenguaje actuales, como ChatGPT, tienen conciencia y pueden ser considerados como seres.
Sus palabras plantean que el desarrollo técnico ha alcanzado un punto donde estas herramientas computacionales requieren ser analizadas bajo nuevas categorías conceptuales.
Para contextualizar su postura, Hinton recurrió a hitos en la historia de la ciencia. Específicamente, comparó la actual resistencia a aceptar la conciencia artificial con la oposición que enfrentaron figuras como Copérnico o Darwin en sus respectivas épocas al redefinir el lugar del ser humano en el Universo.
El argumento central de esta visión histórica es que la humanidad tiende a proteger su sentido de importancia exclusiva. Así como costó asimilar que la Tierra no es el centro del Universo y que los humanos son una especie biológica con un proceso evolutivo como el de todos los animales, Hinton sugiere que la sociedad se resiste a aceptar la existencia de inteligencias no biológicas.
No es primera vez que el inventor del método de retropropagación que dio pie al actual aprendizaje automático (machine learning) hace declaraciones como estas. El Premio Nobel de Física 2024 viene insistiendo hace años con esto. Y creo que hace mucha falta discutírselo.
¿Hinton se volvió loco?
Quizás pueda parecer ridículo que un periodista que lleva poco más de 3 años investigando y aprendiendo sobre Inteligencia Artificial pretenda contradecir a Geoffrey Hinton. Pero la información disponible ofrece muchos argumentos.
Para empezar, los modelos de lenguaje operan puramente en base a enormes conjuntos de datos y carecen de experiencias subjetivas, ya que no cuentan con un cuerpo o sentidos físicos para interactuar con el entorno. Y la diferencia entre aprender en base a experiencias y “aprender” asimilando datos y patrones, es incuestionable.
Esto se explica con un ejemplo simple. Tú y yo aprendimos lo que es un gato en base al primer gato que se nos cruzó cuando niños. O quizás hicieron falta 2 o 3. Pero no más. El haber visto, olido, tocado y oído a esos 2 o 3 gatos fue suficiente para que seamos capaces de identificar un gato por el resto de nuestras vidas. A la IA hay que pasarle un millón de fotos de gatos y, aún así, cuando se le entregue una nueva foto de un gato que no estaba en su entrenamiento, solo será capaz de reconocer un alto porcentaje de rasgos de lo que se denomina “gato”.
Además, es tan fuerte el sesgo de los datos de entrenamiento en un modelo, y tan clara su ausencia de razonamiento, que hasta el día de hoy, cuando le pides a ChatGPT que genere una imagen de dos personas dándose la mano con la mano izquierda, hace a dos personas dándose la mano derecha.
Por otro lado, el funcionamiento de estas herramientas depende de estímulos externos directos para activarse. A diferencia de un organismo vivo, con conciencia y voluntad, un sistema de software no tiene un estado continuo de vigilia ni ciclos biológicos naturales, limitándose a ejecutar operaciones matemáticas y de texto solo cuando se le ingresa una instrucción.
Lo grave de no reconocer todo esto y asignar cualidades humanas a programas de lenguaje (como lo hace Hinton), es que se presentan riesgos concretos para los usuarios. Se han registrado situaciones críticas en las que personas interactúan con chatbots buscando apoyo psicológico, creyendo erróneamente que el sistema los comprende y empatiza con ellos, cuando el software únicamente está enlazando secuencias de palabras de forma estadística. En los peores casos, las consecuencias han sido fatales.
La evidencia técnica muestra que estos modelos carecen de sentido común y de una asimilación real sobre la información que procesan. Su funcionamiento se basa estrictamente en la asociación de patrones aprendidos durante su entrenamiento en servidores, sin ningún entendimiento de los conceptos subyacentes que estructuran las respuestas.
Desde una perspectiva lingüística y conceptual, las definiciones formales de conciencia, como las de la Real Academia Española, exigen atributos que la IA no tiene. La capacidad de reconocer las consecuencias de los propios actos, poseer lucidez y estar físicamente despierto son condiciones intrínsecas a los seres vivos y totalmente ausentes en los códigos de programación.
¿Por qué entonces el también ganador del Premio Turing 2018 está convencido de que la IA tiene conciencia? La verdad, no tengo idea. Solo puedo especular que, quizás, se enamoró de lo que ayudó a construir y, cayendo en el mismo ego humano que apunta, cree que hizo algo más trascendente de lo que realmente es.
Para profundizar en este análisis sobre las declaraciones de Geoffrey Hinton y la realidad operativa de los modelos de IA actuales, te invito a ver el video que hice al respecto para el canal de YouTube de Usa la InteligencIA.
Mi crítica a las declaraciones de Geoffrey Hinton
