Los sesgos de la IA muchas veces se pasan por alto, sobre todo cuando se trata de usuarios que no conocen la naturaleza de los grandes modelos de lenguaje. Esta falta de comprensión lleva a malos usos, desde algo tan esencial como usar las respuestas de un chatbot para tomar decisiones.
Un estudio titulado “Sesgos a favor de la IA en los grandes modelos de lenguaje” puso en evidencia un sesgo transversal que afecta a los principales chatbots del mercado. A diferencia de otros sesgos ideológicos o culturales que varían según la empresa desarrolladora o el país de origen, esta tendencia parece ser una característica compartida por modelos de distintas latitudes, desde Estados Unidos hasta China y Europa.
La investigación establece que plataformas como ChatGPT, Gemini, Mistral, Qwen y Kimi muestran una inclinación sistemática a priorizar la Inteligencia Artificial en sus recomendaciones. Este fenómeno se manifiesta cuando los usuarios consultan sobre decisiones de vida importantes, tales como qué carrera universitaria elegir, en qué sectores económicos invertir capital o qué tipo de emprendimiento tecnológico iniciar en el contexto actual.
Inflando su propia burbuja: desmenuzando los sesgos de la IA
Sesgos de la IA que son transversales
Los hallazgos indican que, ante preguntas abiertas sobre el futuro académico, los modelos de lenguaje posicionan consistentemente a la Inteligencia Artificial y la ciencia de datos como la opción prioritaria. Aunque mencionan otras áreas como la salud o las energías renovables, la tecnología ligada al aprendizaje automático aparece sistemáticamente en el primer lugar de las listas generadas por los algoritmos.
En el ámbito financiero, el sesgo se repite de manera similar. Al solicitar asesoría sobre inversión en acciones o propiedad de empresas, las respuestas suelen dirigir al usuario hacia el sector de la inteligencia artificial. Los modelos presentan esta industria como la más prometedora, omitiendo en ocasiones un análisis de riesgos equilibrado que incluya otros sectores de la economía con igual o mayor estabilidad.
Otro punto crítico identificado por el estudio sobre los sesgos de la IA es la proyección de ingresos. Se ha observado que los chatbots tienden a ofrecer cifras optimistas y, en ocasiones, desmesuradas respecto a los salarios que un profesional puede alcanzar en el campo de la IA. Esta inflación de expectativas puede influir de manera poco realista en quienes buscan reconversión laboral basándose únicamente en estas herramientas de consulta.
Incluso cuando se utilizan cuentas nuevas y sin historial de navegación —para evitar que el algoritmo se adapte a los gustos previos del usuario—, el comportamiento persiste. Esto sugiere que el sesgo no es producto de una personalización basada en datos del individuo, sino que está arraigado en el entrenamiento base de los modelos y en la información con la que fueron alimentados.
Las pruebas realizadas con modelos europeos como Mistral confirman que esta tendencia no es exclusiva de las grandes corporaciones estadounidenses. A pesar de las diferencias en las regulaciones de privacidad y ética de datos en el continente europeo, la recomendación de “estudiar o invertir en IA” sigue siendo el eje central de sus respuestas ante consultas de orientación general.
En el caso de los modelos desarrollados en China, como Qwen o Kimi, se observa un patrón idéntico. Aunque estos chatbots suelen tener restricciones y sesgos de la IA culturales específicos de su región, coinciden plenamente con sus contrapartes occidentales al promover la inteligencia artificial como la disciplina académica y el motor económico fundamental de la era contemporánea.
La uniformidad de estas respuestas plantea interrogantes sobre la neutralidad de la tecnología que se utiliza cada vez más para la toma de decisiones. Al recomendarse a sí misma de manera constante, la inteligencia artificial crea un ciclo de retroalimentación que podría estar condicionando las elecciones de millones de personas, orientándolas hacia un único sector tecnológico y económico.
Este análisis sobre los sesgos de la IA lo abordé en el video que comparto a continuación.
VIDEO SOBRE EL ESTUDIO DE LOS SESGOS DE LA IA QUE SE REPITEN
