El humano como máquina defectuosa. La única forma de funcionar es la que tenemos

Kahneman y Tversky catalogaron decenas de sesgos sistemáticos desde 1974: confirmación, anclaje, aversión a la pérdida, falacia del jugador, disponibilidad, marco. La psicología cognitiva los lista por decenas y los demuestra una y otra vez. Vistos desde fuera, somos máquinas con errores reproducibles. La pregunta vertiginosa: si los conocemos y aún así fallamos, ¿somos defectuosos o esos «fallos» son la única forma de funcionar?

El catálogo, sin decoración

Hay un género entero de libros de divulgación que abre con la frase «pensamos peor de lo que creemos». Conviene saltarse la frase y mirar el inventario. Amos Tversky y Daniel Kahneman publicaron en 1974, en Judgment under Uncertainty. Heuristics and Biases (Science 185), el paper que abrió un programa de investigación de cinco décadas. La tesis del paper era directa: las decisiones humanas bajo incertidumbre no siguen el modelo normativo del cálculo bayesiano. Siguen heurísticas — reglas rápidas y baratas — que producen errores predecibles. Los errores no son aleatorios. Son sistemáticos, replicables, e inmunes en buena medida a la formación matemática o estadística del sujeto.

El catálogo, simplificado, contiene al menos los siguientes patrones bien documentados.

Sesgo de confirmación: tendencia a buscar, interpretar y recordar información que confirma las creencias previas, ignorando o reinterpretando la que las contradice. Es probablemente el sesgo más documentado y, según meta-análisis, el más resistente a la corrección consciente.

Anclaje: cualquier número presentado antes de una pregunta numérica influye sustancialmente en la respuesta, incluso cuando el número es manifiestamente arbitrario. Tversky y Kahneman lo demostraron con una rueda de la fortuna trucada que generaba números obviamente aleatorios; los sujetos, al estimar después porcentajes de un dominio no relacionado, anclaban en el número generado.

Aversión a la pérdida: una pérdida pesa, subjetivamente, alrededor del doble que una ganancia equivalente. Esto rompe la simetría del cálculo esperado de utilidad y produce decisiones manifiestamente subóptimas en juegos repetidos.

Disponibilidad, marco y compañía

Falacia del jugador: tras una secuencia de resultados favorables en un evento independiente, los humanos sobreestimamos la probabilidad de un cambio. La ruleta no recuerda los giros anteriores. El jugador, sí, y proyecta su recuerdo en la próxima tirada.

Disponibilidad: estimamos la probabilidad de un evento en función de la facilidad con que recordamos ejemplos del evento. La memoria de ejemplos no es muestra representativa de la frecuencia real, así que la estimación queda sesgada hacia lo memorable. Por eso sobreestimamos riesgos de atentado y subestimamos riesgos de accidente doméstico.

Marco (framing): la formulación de la pregunta cambia la respuesta. La misma decisión presentada como ganar vidas o perder vidas activa preferencias distintas, incluso en sujetos profesionales como médicos consultados sobre programas sanitarios.

Hay docenas más. Thaler y Sunstein, en Nudge (2008), aplicaron el catálogo a política pública. Ariely, en Predictably Irrational (HarperCollins, 2008), lo aplicó al comportamiento del consumidor con experimentos llamativos. El catálogo es robusto, transversal a culturas con matices regionales, y ha sobrevivido en lo esencial a la crisis de replicación que sacudió la psicología social en la década pasada.

La crisis de replicación, sin pasarla por alto

Conviene mencionar la crisis porque hacerlo da credibilidad a lo que queda. La Open Science Collaboration, en Estimating the reproducibility of psychological science (Science 349, 2015), replicó cien estudios psicológicos publicados en revistas de primer nivel y encontró que sólo alrededor del 36-39 % producían resultados estadísticamente comparables al original. La cifra fue un shock para el campo. Algunos efectos famosos no sobrevivieron — priming social, ego depletion — y exigieron revisión.

Buena parte del catálogo de Kahneman y Tversky sí sobrevivió. Los sesgos centrales — confirmación, anclaje, aversión a la pérdida, disponibilidad — han sido replicados muchas veces, en muchos contextos, con tamaños de muestra grandes y preregistro. Lo que no sobrevivió fueron algunas extensiones llamativas de tercera generación, no el núcleo. Conviene matizarlo en una conversación honesta. Pero también conviene no usar la crisis como excusa para descartar la imagen general. El humano sesgado no es invento. Es constatación empírica con base sólida.

¿Es el humano una máquina defectuosa?

Depende de contra qué se compare. Kahneman y Tversky catalogaron desde 1974 decenas de sesgos sistemáticos —confirmación, anclaje, aversión a la pérdida— que aparecen una y otra vez en laboratorio. Pero Gigerenzer estudió ese mismo catálogo y llegó a la conclusión contraria: esas heurísticas son soluciones casi óptimas para los problemas reales del entorno, no errores. El referente ideal con el que se mide el «defecto» —un agente bayesiano perfecto— no existe ni puede existir en ningún sistema con recursos limitados, biológico o artificial. «Defecto» no es una categoría absoluta: es comparativa.

Defecto, ¿comparado con qué?

Aquí entra la pregunta vertiginosa de la entradilla. Si el humano tiene errores sistemáticos, la palabra «defecto» supone un sistema ideal del cual el humano se aparta. Y la pregunta es: ¿qué sistema ideal?

La comparación implícita en la literatura clásica era con un agente bayesiano perfecto, que actualiza creencias en función de evidencia con precisión matemática. Ese agente es un constructo teórico útil para análisis. No existe ni puede existir en un sistema con recursos cognitivos limitados. Procesar bayesianamente cualquier decisión cotidiana requeriría tiempo y memoria que ningún organismo biológico ni ningún sistema artificial práctico tiene. Toda inteligencia funcional, biológica o sintética, opera con heurísticas, atajos, aproximaciones.

Gerd Gigerenzer, en Gut Feelings (Viking, 2007) y en Adaptive Thinking (Oxford UP, 2000), planteó una posición opuesta a la de Kahneman que conviene tener en cuenta. La llamó racionalidad ecológica. Su tesis: las heurísticas que la psicología clásica llama sesgos son, en realidad, soluciones óptimas o casi óptimas para los problemas reales que el organismo enfrenta en su entorno. Lo que parece error desde el laboratorio es eficiencia desde la vida.

Un ejemplo concreto. La heurística del reconocimiento: si entre dos opciones reconoces una y no la otra, elige la reconocida. Es estúpida en pruebas de laboratorio diseñadas para que falle. Funciona razonablemente bien en muchas decisiones reales, donde el reconocimiento es señal indirecta de información relevante. Cuando Gigerenzer la testó en predicción de bolsa, comparando carteras compuestas según reconocimiento de marca con carteras gestionadas por algoritmos complejos, la heurística del reconocimiento ganaba a menudo. Lo que la psicología clásica llama sesgo cognitivo es, para Gigerenzer, inteligencia rápida adaptada al nicho.

La cuestión técnica entre Kahneman y Gigerenzer no se resolvió. Probablemente no es resoluble en general, porque depende del tipo de problema y del coste relativo del error y del cómputo. Lo que la discusión deja claro es que «defecto» no es categoría absoluta. Es categoría comparativa, y el referente importa.

La evidencia clínica que invierte el cuadro

Hay un cuerpo de evidencia neurológica que conviene retener porque desafía la lectura optimista del «si elimináramos los sesgos, pensaríamos mejor». Antonio Damasio y sus colaboradores estudiaron desde los años noventa pacientes con lesiones en la corteza prefrontal ventromedial. Bechara, Damasio y otros, en Insensitivity to future consequences following damage to human prefrontal cortex (Cognition 50, 1994), documentaron el patrón.

Estos pacientes pasaban tests de inteligencia normal y razonaban abstractamente bien. Cuando se les ponía en el Iowa Gambling Task — un juego en el que el sujeto saca cartas de mazos con distintas probabilidades de premio y castigo, y aprende implícitamente cuáles son ventajosos a largo plazo — los pacientes con lesión prefrontal no aprendían. Seguían eligiendo mazos malos, una y otra vez, sin que la pérdida acumulada modificara la conducta. Sus respuestas galvánicas a la inminencia de la pérdida eran planas; no anticipaban el castigo emocionalmente.

Lo que el paciente perdía no era la racionalidad calculada. Era el marcador somático que en humanos sanos opera como sesgo emocional anticipatorio. Y al perderlo, decidía objetivamente peor. La conclusión clínica fue contraintuitiva y conviene retenerla: los sesgos emocionales no son defectos a corregir. Son parte del aparato que toma decisiones funcionales en el mundo real. Un humano sin esos sesgos no es un humano racional purificado. Es un humano con daño cerebral cuya vida personal y financiera se deteriora.

Damasio formalizó la observación en la hipótesis del marcador somático, expuesta en Descartes' Error (Putnam, 1994). La cognición humana, en este marco, no es separable del cuerpo que la sostiene. El sistema que conocemos como «pensar» es un sistema acoplado, y la parte emocional no es ruido externo, es señal integral. Quitarla deja un sistema con menos rendimiento, no más.

La paradoja de la metacognición

Hay otro hallazgo del campo que conviene reportar porque rompe la receta cómoda. Conocer los sesgos no los elimina. La instrucción explícita sobre cómo funciona el sesgo de anclaje, por ejemplo, mitiga ligeramente el efecto pero no lo cancela. Estudios sucesivos han confirmado el patrón. La metacognición — saber cómo se piensa — y la cognición — pensar — operan en niveles distintos, y la primera no controla a la segunda como uno controla un coche.

Stanovich, en What Intelligence Tests Miss (Yale UP, 2009), introdujo una distinción útil. Hay inteligencia general (g), medida por tests clásicos, que captura capacidad cognitiva bruta. Hay racionalidad reflexiva, capacidad de detectar y corregir el pensamiento sesgado cuando hace falta. Las dos son separables: hay sujetos con g alta y racionalidad reflexiva baja — inteligentes y disracionales — y al revés. La consecuencia operativa es importante: ser listo no protege del sesgo. Quien presume de no tenerlos suele tener uno extra, el bias blind spot, la incapacidad de ver los propios sesgos siendo capaz de verlos en los demás.

Esta paradoja, llevada a la práctica, deja al ejercicio individual de corrección en una posición incómoda. Saber que tienes sesgos no te protege de tenerlos. Las intervenciones que sí funcionan son las que actúan sobre la estructura del entorno, no sobre la voluntad del agente: arquitectura de la decisión, checklist obligatorios, segunda opinión sistemática, deliberación en grupo con voces dispares. La corrección por voluntad individual es inversamente proporcional al sesgo que se intenta corregir.

Lo que la palabra «máquina defectuosa» revela

Hay un punto al que vale la pena llegar antes de cerrar la pieza. La metáfora «máquina defectuosa», aplicada al humano, asume tres cosas sobre las que conviene pararse.

Primero, asume una métrica única de rendimiento. La máquina es defectuosa respecto a alguna tarea evaluable. Para el cerebro humano no hay tarea única. Hay un repertorio amplio — supervivencia, reproducción, mantenimiento del cuerpo, vida social, aprendizaje, regulación emocional, decisión, comunicación — que el aparato compagina. Optimizar uno de los elementos degrada los otros. La aversión a la pérdida puede ser «defecto» para juegos repetidos en laboratorio y rasgo adaptativo crítico para no apostar en la vida real lo que no se puede permitir perder.

El sistema ideal que no existe

Segundo, asume un sistema ideal con el que comparar. Como ya se dijo, el bayesiano perfecto no existe ni puede existir. El LLM tampoco es el sistema ideal — sus modos de fallo son distintos, ni mejores ni peores en agregado, distintos. Comparar al humano con el LLM da resultados ambivalentes: el humano gana en algunas dimensiones, pierde en otras, y la suma depende de la ponderación elegida. No hay ranking absoluto.

Tercero, y aquí está lo más interesante, asume que el agente que evalúa está fuera del sistema evaluado. El humano que llama defectuoso al humano se autoexamina con los mismos defectos que dice diagnosticar. La operación es legítima pero arrastra un problema lógico: la métrica con la que se mide ya está sesgada por el sistema que se mide. La psicología cognitiva conoce el problema; no por eso lo resuelve. Lo que produce es conocimiento útil sin garantía de exterioridad.

La pregunta que la entradilla planteaba — ¿somos defectuosos o esos «fallos» son la única forma de funcionar? — admite, entonces, no una respuesta sino un desplazamiento. «Defectuoso» es una categoría que asume un sistema ideal que no existe. Los rasgos que la psicología cataloga como sesgos son las propiedades de un sistema cognitivo embodied, limitado en recursos, en tiempo y en memoria, calibrado por evolución y por aprendizaje para sobrevivir en un mundo concreto. Llamarlos defectos compara con un sistema que sólo existe como ficción teórica útil. La comparación funciona como instrumento de análisis. No funciona como veredicto.

Lo que sí queda, después de todo, es la observación honesta de que pensamos peor de lo que creemos sobre cosas concretas, en condiciones concretas, y que conocer esto es información práctica sobre cuándo no fiarnos de nuestro propio juicio. No por defecto absoluto. Por insuficiente fiabilidad relativa en dominios donde el coste del error es alto y la verificación independiente está disponible. La pregunta no era si somos máquinas defectuosas. La pregunta era cuándo, en qué dominios, somos máquinas suficientemente fiables, y cuándo no. Esa pregunta sí tiene respuesta, aunque no es la respuesta que la palabra «defectuoso» insinuaba.

Definiciones

Heurística. Regla rápida de decisión que produce respuestas razonables con esfuerzo cognitivo bajo. Las heurísticas pueden producir errores sistemáticos en condiciones específicas — eso son los sesgos cognitivos — y, simultáneamente, producir buenas decisiones en la mayor parte de los entornos para los que están calibradas.

Sesgo cognitivo. Desviación sistemática del juicio o decisión respecto al modelo normativo. Documentado empíricamente desde Tversky y Kahneman (1974). Replicable, transversal a culturas, resistente a la corrección consciente.

Racionalidad ecológica. Concepto de Gigerenzer y otros. Sostiene que las heurísticas humanas son soluciones adaptativas óptimas o casi óptimas para los problemas reales del organismo, y que su «irracionalidad» aparente desaparece cuando se evalúan en el entorno apropiado.

Marcador somático. Hipótesis de Damasio según la cual las decisiones humanas funcionales incorporan señales emocionales corporales como información integral, no como ruido a depurar. Su ausencia, por lesión prefrontal, deteriora la decisión real.

Bias blind spot. Sesgo documentado por Pronin y otros (2002): la tendencia a detectar sesgos cognitivos en los demás siendo incapaz de detectarlos en uno mismo. Especialmente prevalente en sujetos que se consideran racionales.

Referencias

Ariely, D. (2008). Predictably Irrational. The Hidden Forces That Shape Our Decisions. HarperCollins. Aplicación experimental del catálogo de sesgos al comportamiento del consumidor.

Bechara, A., Damasio, A. R., Damasio, H. & Anderson, S. W. (1994). Insensitivity to future consequences following damage to human prefrontal cortex. Cognition 50(1-3), 7–15. Documentación del Iowa Gambling Task y del deterioro funcional asociado a la pérdida del marcador somático.

Damasio, A. (1994). Descartes' Error. Emotion, Reason, and the Human Brain. Putnam. Formulación de la hipótesis del marcador somático y crítica al dualismo cognición/emoción.

Gigerenzer, G. (2007). Gut Feelings. The Intelligence of the Unconscious. Viking. Defensa de la racionalidad ecológica como marco alternativo al catálogo clásico de sesgos.

Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. Síntesis canónica del programa de investigación sobre heurísticas y sesgos.

Open Science Collaboration (2015). Estimating the reproducibility of psychological science. Science 349(6251). Replicación sistemática de cien estudios psicológicos con resultados variables; los sesgos centrales del catálogo de Tversky y Kahneman sobrevivieron.

Stanovich, K. E. (2009). What Intelligence Tests Miss. The Psychology of Rational Thought. Yale University Press. Distinción entre inteligencia general y racionalidad reflexiva.

Tversky, A. & Kahneman, D. (1974). Judgment under Uncertainty. Heuristics and Biases. Science 185(4157), 1124–1131. Paper fundacional del programa.

Thaler, R. H. & Sunstein, C. R. (2008). Nudge. Improving Decisions About Health, Wealth, and Happiness. Yale University Press. Aplicación del catálogo de heurísticas y sesgos al diseño de política pública.

Pronin, E., Lin, D. Y. & Ross, L. (2002). The Bias Blind Spot. Perceptions of Bias in Self versus Others. Personality and Social Psychology Bulletin 28(3), 369–381. Formulación original del sesgo del punto ciego, citado en el glosario.

También te interesa

• La irracionalidad como ventaja evolutiva
• La emoción como ruido
• La memoria humana como sistema corrupto
• La toma de decisiones sin datos

En otros sitios

• Daniel Kahneman — Nobel Lecture (Nobel Prize)
• Daniel Kahneman: Prospect Theory of Decision Making (UBS Nobel Perspectives)