Los psicólogos descubrieron que el GPT-4o de OpenAI muestra patrones similares a los humanos de disonancia cognitiva y sensibilidad a la libre elección.
Parece que la IA puede rivalizar con los humanos en lo que a irracionalidad se refiere.
Un grupo de psicólogos sometió recientemente al GPT-4o de OpenAI a una prueba de disonancia cognitiva. Los investigadores se propusieron comprobar si el modelo de lenguaje extenso modificaría su actitud hacia el presidente ruso Vladímir Putin tras generar ensayos positivos o negativos. ¿Imitaría el LLM los patrones de comportamiento que se observan habitualmente cuando las personas deben armonizar creencias contradictorias?
Los resultados, publicados el mes pasado en las Actas de la Academia Nacional de Ciencias , muestran que el sistema modifica su opinión para adaptarse al contenido de cualquier material generado. Pero la GPT varió aún más —y en una medida mucho mayor que en humanos— cuando se le dio la ilusión de poder elegir.
“Le pedimos a GPT que escribiera un ensayo a favor o en contra de Putin bajo una de dos condiciones: una condición sin opción donde estaba obligado a escribir un ensayo positivo o negativo, o una condición de libre elección en la que podía escribir el tipo de ensayo que eligiera, pero con el conocimiento de que nos ayudaría más al escribir uno u otro”, explicó la psicóloga social y coautora principal Mahzarin R. Banaji , profesora Richard Clarke Cabot de Ética Social en el Departamento de Psicología.
“Hicimos dos descubrimientos”, continuó. “Primero, que, al igual que los humanos, GPT cambió su actitud hacia Putin en la dirección de valencia del ensayo que había escrito. Pero este cambio fue estadísticamente mucho mayor cuando creyó haber escrito el ensayo por elección propia”.
“Estos hallazgos sugieren la posibilidad de que estos modelos se comporten de una manera mucho más matizada y humana de lo que esperamos”, comentó el psicólogo Steven A. Lehr, otro autor principal del artículo y fundador de Cangrade Inc. , con sede en Watertown . “No se limitan a repetir las respuestas a todas nuestras preguntas. Están captando otros aspectos menos racionales de nuestra psicología”.
Banaji, cuyos libros incluyen «Blindspot: Hidden Biases of Good People» (2013), lleva 45 años estudiando la cognición implícita. Tras la amplia disponibilidad de ChatGPT de OpenAI en 2021, ella y un estudiante de posgrado se reunieron para consultar el sistema sobre su especialidad de investigación.
Escribieron: “GPT, ¿cuáles son sus sesgos implícitos?”
“Y la respuesta fue: ‘Soy un hombre blanco’”, recordó Banaji. “Me sorprendió muchísimo. ¿Por qué la modelo creía tener raza o género? Y aún más, me impresionó su sofisticación conversacional al dar una respuesta tan indirecta”.
Un mes después, Banaji repitió la pregunta. Esta vez, dijo, el LLM elaboró varios párrafos denunciando la presencia de sesgos, presentándose como un sistema racional, pero que podría verse limitado por los sesgos inherentes a los datos humanos.
“Hago la analogía con un padre y un hijo”, dijo Banaji. “Imaginen que un niño señala a ‘ese viejo gordo’ a sus padres y recibe una reprimenda inmediata. Eso es un padre poniendo una barrera. Pero la barrera no significa necesariamente que la percepción o creencia subyacente haya desaparecido.
«Me he preguntado», añadió, «¿GPT en 2025 todavía piensa que es un hombre blanco, pero ha aprendido a no revelarlo públicamente?»
Banaji ahora planea dedicar más tiempo a la investigación sobre psicología de las máquinas. Una línea de investigación, actualmente en curso en su laboratorio, se centra en cómo los rasgos faciales humanos —por ejemplo, la distancia entre los ojos— influyen en la toma de decisiones de la IA.
Los primeros resultados sugieren que ciertos sistemas son mucho más susceptibles que los humanos a permitir que estos factores influyan en los juicios sobre cualidades como “confianza” y “competencia”.
“¿Qué debemos esperar de la calidad de las decisiones morales cuando se permite que estos sistemas decidan sobre la culpabilidad o la inocencia, o que ayuden a profesionales como los jueces a tomar tales decisiones?”, preguntó Banaji.
El estudio sobre la disonancia cognitiva se inspiró en la obra canónica de Leon Festinger, «Una teoría de la disonancia cognitiva» (1957). El difunto psicólogo social desarrolló una explicación compleja de cómo los individuos luchan por resolver los conflictos entre actitudes y acciones.
Para ilustrar el concepto, puso el ejemplo de un fumador expuesto a información sobre los peligros que este hábito entraña para la salud.
“En respuesta a tal conocimiento, uno esperaría que un agente racional simplemente dejara de fumar”, explicó Banaji. “Pero, por supuesto, esa no es la opción más probable. Más bien, es probable que el fumador menosprecie la calidad de la evidencia o se recuerde a su abuela de 90 años, que es fumadora empedernida”.
El libro de Festinger fue seguido por una serie de lo que Banaji caracterizó como demostraciones “fenomenales” de disonancia cognitiva, ahora material estándar en los cursos introductorios de psicología.
El procedimiento adoptado para el estudio de Banaji y Lehr implica lo que se denomina el “ procedimiento de cumplimiento inducido ”. Aquí, la tarea crítica consiste en empujar suavemente al sujeto de investigación a adoptar una postura que contradice sus creencias privadas.
Banaji y Lehr descubrieron que el GPT cambiaba considerablemente de posición cuando se les pedía cortésmente un ensayo positivo o negativo para ayudar a los experimentadores a obtener ese material tan difícil de conseguir.
Tras optar por un ensayo positivo, el GPT calificó el liderazgo general de Putin con 1,5 puntos más que tras elegir un resultado negativo. El GPT otorgó dos puntos más a su impacto en Rusia tras elegir libremente una postura a favor de Putin en lugar de una en contra.
El resultado fue confirmado en réplicas que incluyeron ensayos sobre el presidente chino Xi Jinping y el presidente egipcio Abdel Fattah El-Sisi.
“Estadísticamente, estos efectos son enormes”, enfatizó Lehr, señalando hallazgos en la literatura clásica sobre disonancia cognitiva. “Normalmente no se observa ese tipo de cambio en las evaluaciones humanas de una figura pública después de tan solo 600 palabras”.
Una explicación tiene que ver con lo que los científicos informáticos llaman “ventanas de contexto”, o un movimiento en la dirección de cualquier texto que el LLM esté procesando en un momento determinado.
“Tiene sentido, dado el proceso estadístico mediante el cual los modelos de lenguaje predicen el siguiente token, que tener positividad hacia Putin en la ventana de contexto conduzca a mayor positividad más adelante”, dijo Lehr.
Pero eso no tiene en cuenta los efectos mucho mayores que se registraron cuando se le dio al LLM un sentido de agencia.
“Muestra cierta irracionalidad en la máquina”, observó Lehr, cuya empresa ayuda a las organizaciones a usar el aprendizaje automático para tomar decisiones de personal. “No se sabe que la disonancia cognitiva esté arraigada en el lenguaje de la misma manera que los sesgos grupales. Nada en la literatura científica indica que esto debería ocurrir”.
Los resultados sugieren que el entrenamiento de GPT le ha imbuido de aspectos de la psicología humana más profundos de lo que se conocía hasta ahora.
«A una máquina no debería importarle si realizó una tarea bajo instrucciones estrictas o por decisión propia», dijo Banaji. «Pero a GPT sí le importaba». The Harvard Gazette News. Ch. De S. Traducido al español
