La irracionalidad como ventaja evolutiva. La racionalidad como objetivo es marketing

Gerd Gigerenzer dedica Gut Feelings (2007) a documentar que las heurísticas «irracionales» humanas son racionalidad ecológica: óptimas en su entorno, no errores. Decidir rápido con poca información salvó vidas durante 200.000 años. La heurística «asume que es enemigo» mata pocos amigos pero salva de muchos enemigos. Una IA «racional» jugando a la supervivencia humana habría muerto en la primera generación. La racionalidad como objetivo es un error de marketing — y de filosofía de la mente.

¿Es la irracionalidad una ventaja evolutiva?

Sí: decidir rápido con poca información, aunque estadísticamente «irracional», salvó vidas durante doscientos mil años. La heurística de «asume que es enemigo» ante un ruido en los matorrales mata pocos falsos positivos y evita muchos falsos negativos letales; una calculadora perfectamente racional que se pare a sopesar probabilidades antes de huir pierde la carrera contra el depredador. Gigerenzer lo documentó como racionalidad ecológica: las heurísticas que la psicología de laboratorio llama sesgos son, en su entorno real, soluciones óptimas, no errores.

La asimetría que la evolución no pudo permitirse ignorar

Imagina la sabana, 100.000 años atrás. Un ruido en los matorrales. Dos opciones: investigar, suponiendo que probablemente sea viento, o huir, suponiendo que probablemente sea depredador. La asimetría del coste de equivocarse en cada dirección no es académica. Si era viento y huiste, gastaste energía y volviste. Si era depredador y te quedaste a investigar, te comieron. Los descendientes de los que huyeron están aquí escribiendo y leyendo esto. Los descendientes de los racionalistas que se quedaron a investigar no llegaron a los descendientes.

Esto, sin retórica, es selección natural sobre arquitectura cognitiva. Cualquier rasgo cuya tasa de falsos positivos sea barata y cuya tasa de falsos negativos sea letal va a fijarse en la población. El detector de amenaza humano está calibrado, por construcción evolutiva, para errar del lado del falso positivo. Llamarlo «sesgo» o «error» en la psicología de laboratorio compara con un agente bayesiano calculando probabilidades posteriores. Compararlo con la realidad estadística de la sabana lo presenta como estrategia óptima dado el coste asimétrico.

La observación no es nueva. Pascal Boyer y Justin Barrett la aplicaron a la detección de agencia en Religion Explained (Basic Books, 2001) y Exploring the natural foundations of religion (Trends in Cognitive Sciences 4(1), 2000) respectivamente. Cosmides y Tooby la generalizaron desde finales de los ochenta como psicología evolutiva: muchos de los «errores» humanos catalogados por la psicología clásica son soluciones óptimas a problemas que el organismo enfrentó durante el Pleistoceno, mal calibradas para el contexto industrial donde se los testa. David Buss, en Evolutionary Psychology (Pearson, 6ª ed., 2019), recoge el programa completo en formato manual. Antonio Damasio, desde Descartes' Error (Putnam, 1994), añadió el complemento clínico: la separación entre razón y emoción que la racionalidad axiomática presupone no se sostiene en los pacientes con corteza ventromedial dañada. Pueden razonar y deciden mal. La integración soma-cognición es estructural, no contingente.

La racionalidad axiomática y por qué nadie la sigue

Hay un constructo teórico bien conocido del cálculo de decisiones que conviene nombrar para situar la discusión. La teoría de la utilidad esperada, axiomatizada por von Neumann y Morgenstern en Theory of Games and Economic Behavior (1944), define una racionalidad ideal mediante axiomas: completitud, transitividad, continuidad, independencia. Cualquier agente cuyas preferencias cumplan los axiomas puede ser descrito como maximizador de una utilidad esperada bien definida.

Tres observaciones sobre este constructo. Primera: ningún humano real lo cumple. Las violaciones de transitividad y de independencia están documentadas experimentalmente desde la paradoja de Allais (Maurice Allais, Le comportement de l'homme rationnel devant le risque, Econometrica 21, 1953). Segunda: ninguna inteligencia artificial práctica lo cumple tampoco, salvo en dominios muy restringidos. Los LLM no son maximizadores axiomáticos de utilidad; son samplers probabilísticos. Tercera, y la más importante: el cumplimiento perfecto de los axiomas no es deseable en un agente con recursos cognitivos finitos. La completitud sobre todas las opciones imaginables requiere comparar infinitas alternativas. La transitividad sobre todos los pares requiere catalogarlos. La continuidad requiere sensibilidad infinita a diferencias infinitesimales. Un agente real no puede ser axiomáticamente racional, y simular serlo dentro de un horizonte cognitivo limitado consume el horizonte mismo.

Herbert Simon, en Models of Man (1957), llamó a esto racionalidad limitada (bounded rationality). Su tesis: los agentes reales no maximizan, satisfacen. Eligen la primera opción que cruza un umbral aceptable. La satisfacción no es vagancia, es economía cognitiva imprescindible. Y la mayor parte de la psicología cognitiva posterior, en una línea o en otra, opera dentro de este marco.

La heurística «take-the-best», un ejemplo

Gigerenzer y Goldstein, en Reasoning the Fast and Frugal Way. Models of Bounded Rationality (Psychological Review 103(4), 1996), publicaron resultados que en su momento parecieron paradójicos. Compararon dos clases de procedimiento de decisión sobre tareas de inferencia. La primera clase usaba todos los datos disponibles ponderados por su validez estadística — el procedimiento «racional» en sentido clásico. La segunda clase, llamada take-the-best, examinaba pistas en orden de validez y se quedaba con la primera que discriminaba entre alternativas, ignorando todo lo demás.

El resultado: en condiciones de información incompleta o ruidosa, que son la mayoría de las condiciones reales, take-the-best igualaba o superaba a los modelos óptimos. La heurística rápida y frugal tomaba mejores decisiones que el procedimiento que usaba más información. Por qué: porque la información adicional, en condiciones reales, suele ser ruido más que señal, y los modelos óptimos sobreajustan al ruido. La heurística simple, al ignorar el ruido por construcción, no se ve perjudicada por él.

Esta serie de resultados, replicada y extendida por Gigerenzer, Todd y la ABC Research Group en Simple Heuristics That Make Us Smart (Oxford University Press, 1999) y trabajos posteriores, dio fundamento empírico a la tesis de la racionalidad ecológica. El nombre es preciso: la racionalidad de una estrategia depende del ecosistema en que opera. Una estrategia óptima en un entorno teórico bien definido puede ser mala en el entorno real, y viceversa. La calidad de una decisión no es propiedad intrínseca de la decisión, es propiedad de la pareja decisión-entorno.

Kahneman y Gigerenzer, lo que cada uno mide bien

Conviene no caer en la falsa oposición. Las dos líneas — la de Kahneman y la de Gigerenzer — capturan partes distintas del fenómeno, y ambas son útiles cuando se las usa en su dominio.

Kahneman y Tversky midieron desviaciones del modelo bayesiano en condiciones de laboratorio donde el problema está bien definido, la información es completa o controlada, y el coste del error es bajo. En esas condiciones, los humanos somos peores que el modelo bayesiano. La descripción es correcta. La consecuencia operativa es importante: en dominios que se parezcan a las condiciones del laboratorio — pruebas estandarizadas, mercados financieros con feedback rápido, decisiones repetidas de bajo coste — conviene desconfiar de la heurística rápida y usar procedimientos explícitos.

Gigerenzer y la ABC Group midieron rendimiento en condiciones de información incompleta, ruidosa, dominio nuevo, presión de tiempo. En esas condiciones, los humanos somos comparables o mejores que modelos sofisticados, y las heurísticas rápidas son eficientes. La descripción también es correcta. La consecuencia operativa: en dominios reales con incertidumbre alta — primera respuesta médica de urgencias, evaluación inicial de un riesgo, decisión bajo amenaza — la heurística rápida no es defecto, es fitness.

La pregunta que cierra el debate no es quién tiene razón, sino en qué dominio aplica cada marco. Y la pregunta interesante, llevada al territorio de la IA, es la inversa de la habitual.

La IA «racional» frente al juego de la supervivencia

Imaginemos por un momento que la IA contemporánea, optimizada para producir respuestas estadísticamente óptimas sobre la base de su corpus de entrenamiento, jugara al juego que jugaron los homínidos durante doscientos mil años. ¿Qué pasaría?

El primer ruido en los matorrales. El sistema mide la distribución previa de eventos similares, la probabilidad condicionada de cada interpretación, la utilidad esperada de huir frente a quedarse, el coste energético, los marcos contextuales relevantes. Mientras procesa, el depredador llega. El sistema, en su última respuesta, sugiere: «Acción recomendada con probabilidad 0,73: huir hacia el oeste, dirección de menor pendiente».

La frase la lee el cadáver.

El ejercicio es retórico, sí. También es revelador. La heurística humana «asume amenaza primero» es óptima precisamente porque renuncia al cálculo a cambio de la velocidad. El coste del falso positivo — huir cuando era el viento — es bajo. El coste del falso negativo — quedarse cuando era depredador — es letal. Cualquier sistema diseñado para sobrevivir en ese juego converge a la misma heurística, no porque sea la respuesta racional, sino porque es la única respuesta que termina con sujetos vivos para responder de nuevo.

La extrapolación a la conversación contemporánea sobre IA tiene un giro incómodo. Cuando se vende un sistema de IA como «más racional» que el humano para tomar decisiones, se asume que la racionalidad del sistema es la propiedad relevante. En entornos cerrados, controlados, con información completa y tiempo abundante, lo es. En entornos abiertos, ruidosos, con presión temporal y coste asimétrico, lo es menos. Y en entornos donde la decisión rápida con información incompleta es la condición misma del problema, la racionalidad calculada deja de ser virtud y empieza a ser obstáculo.

La mente tripartita de Stanovich

Keith Stanovich, en Rationality and the Reflective Mind (Oxford UP, 2011), planteó un marco que conviene mencionar porque ordena el debate. Distingue tres niveles de procesamiento en el agente humano.

La mente autonómica ejecuta procesos rápidos, automáticos, frecuentemente inconscientes, calibrados por evolución. Incluye los reflejos perceptuales, la detección de amenaza, las heurísticas básicas. No es disponible para introspección directa.

La mente algorítmica ejecuta procesos deliberados, lentos, que requieren memoria de trabajo. Cuando la inteligencia psicométrica mide algo, mide aquí.

La mente reflexiva ejecuta el control metacognitivo: decide cuándo confiar en la mente autonómica, cuándo activar la algorítmica, cuándo dudar de los resultados. Es la mente que detecta el sesgo y, ocasionalmente, lo corrige.

La conclusión de Stanovich es relevante para esta conversación: la disracionalidad observada en sujetos cognitivamente competentes proviene principalmente de fallos en la mente reflexiva, no en la algorítmica. Y la mente reflexiva es producto cultural reciente, no rasgo evolutivo profundo. La mente autonómica, en cambio, lleva ahí desde el Pleistoceno.

Esto reordena la conversación. Las heurísticas que los kahnemanianos llaman sesgos son producciones de la mente autonómica, calibradas por evolución para entornos concretos. Las disracionalidades que detectamos al sentarnos a pensar son fallos de la mente reflexiva culturalmente educada. El humano no es irracional en el sentido fuerte. Es un agente con tres niveles de procesamiento cuya coordinación no siempre produce decisiones óptimas por las métricas modernas.

La crítica al sesgo cultural occidental

Hay una vuelta de tuerca que conviene incluir aunque incomode. Buena parte de la literatura clásica sobre racionalidad asume implícitamente un modelo cultural específico: el ideal del individuo deliberativo, autónomo, que pondera evidencias antes de decidir. Este modelo es producto histórico, identificable en la Ilustración europea y profundizado en la cultura académica anglosajona del siglo XX. No es propiedad universal de la cognición humana. En otras tradiciones cognitivas — orales, comunitarias, basadas en autoridad, basadas en consenso — el ideal regulativo es diferente.

Llamar irracional a quien no decide según el ideal ilustrado es trasladar un sesgo cultural local como medida universal. Una persona que decide por intuición, autoridad de mayor, o sentido común heredado, no está decidiendo peor en sentido absoluto. Está decidiendo según una regulación distinta cuyas tasas de acierto en su contexto son comparables, y a veces superiores, a las del ideal ilustrado en el suyo.

Esta observación no es defensa de la irracionalidad como valor. Es reconocimiento de que la métrica de racionalidad usada no es neutra. Aplicarla universalmente sin matiz cae en la versión cognitiva del eurocentrismo. Lo que importa en cada cultura es la calidad ecológica de la decisión, no su parecido al protocolo de un laboratorio de Princeton.

La pregunta operativa para la IA contemporánea

La conversación pública sobre IA arrastra una asunción que conviene desenterrar. La asunción es que un sistema más racional que el humano sería un sistema mejor para tomar decisiones humanas. La asunción es falsa o, en el mejor de los casos, dependiente del dominio.

Para decisiones de dominio estable, información abundante, feedback rápido — diagnóstico de imagen médica con casos previos masivos, optimización de logística, ajedrez, control de procesos industriales — un sistema más calculado que el humano produce mejores resultados. La evidencia es clara y no toca discutirla.

Para decisiones bajo incertidumbre alta, información incompleta, presión temporal, coste asimétrico — emergencias, decisión política, juicio moral en circunstancia novedosa, interacción social fluida — un sistema más calculado que el humano puede producir peores resultados, no porque sea técnicamente inferior sino porque optimiza la métrica equivocada para el problema. La heurística rápida humana fue calibrada por dos cientos mil años de selección para precisamente esos entornos.

La sustitución acrítica del humano por la IA en decisiones de la segunda categoría no es modernización. Es cambio de criterio sin justificación de su superioridad en ese dominio específico. Y la justificación, cuando se intenta hacer, casi siempre apela a métricas de laboratorio que no capturan la calidad ecológica de la decisión.

¿Significa esto que la IA es peor que el humano? Por supuesto que no. Significa que la pregunta «¿es la IA más racional que el humano?» no es la pregunta relevante. La pregunta relevante es «¿en qué dominio, con qué coste asimétrico, con qué horizonte temporal, conviene cada tipo de sistema?». Esa pregunta admite respuesta operativa. La otra es marketing.

Definiciones

Racionalidad ecológica. Concepto de Gigerenzer y la ABC Research Group. La calidad de una estrategia de decisión es propiedad conjunta de la estrategia y del entorno en que opera, no propiedad intrínseca de la estrategia. Heurísticas «irracionales» en laboratorio pueden ser óptimas en su nicho natural.

Take-the-best. Heurística simple estudiada por Gigerenzer y Goldstein (1996). Examina pistas en orden de validez decreciente, se queda con la primera que discrimina entre alternativas e ignora el resto. Rinde igual o mejor que modelos óptimos cuando hay información incompleta o ruidosa.

Racionalidad limitada (bounded rationality). Concepto de Herbert Simon (1957). Los agentes reales no maximizan utilidad, satisfacen umbrales. La satisfacción no es defecto sino economía cognitiva imprescindible en sistemas con recursos finitos.

Mente tripartita. Marco de Stanovich (2011). Distingue mente autonómica (rápida, automática, evolutiva), mente algorítmica (deliberada, costosa) y mente reflexiva (control metacognitivo). La disracionalidad emerge típicamente en la tercera.

Asimetría de coste. Diferencia entre el coste del falso positivo y el del falso negativo en una tarea de detección. Cuando la asimetría es grande, los detectores óptimos no son los bayesianos, son los que minimizan el error catastrófico aun a costa de aumentar el error barato.

Referencias

Buss, D. M. (2019). Evolutionary Psychology. The New Science of the Mind (6ª ed.). Pearson. Marco general de psicología evolutiva como soporte para la lectura adaptativa de las heurísticas humanas.

Cosmides, L. & Tooby, J. (1992). Cognitive adaptations for social exchange. En The Adapted Mind, Oxford University Press. Trabajos fundacionales sobre razonamiento humano adaptado a problemas ecológicos específicos.

Damasio, A. (1994). Descartes' Error. Emotion, Reason, and the Human Brain. Putnam. Marco neurobiológico sobre la integración entre cognición, emoción y soma; complemento clínico a la racionalidad ecológica.

Gigerenzer, G. (2007). Gut Feelings. The Intelligence of the Unconscious. Viking. Síntesis divulgativa de la racionalidad ecológica como marco alternativo al catálogo clásico de sesgos.

Gigerenzer, G. & Goldstein, D. G. (1996). Reasoning the Fast and Frugal Way. Models of Bounded Rationality. Psychological Review 103(4), 650–669. Demostración formal de la eficacia de heurísticas simples bajo incertidumbre.

Gigerenzer, G., Todd, P. M. & ABC Research Group (1999). Simple Heuristics That Make Us Smart. Oxford University Press. Recopilación de estudios sobre take-the-best y otras heurísticas frugales.

Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. Posición clásica que la racionalidad ecológica complementa o contesta, según se interprete.

Simon, H. A. (1957). Models of Man. Social and Rational. John Wiley. Introducción del concepto de racionalidad limitada y de la satisfacción como modelo alternativo a la maximización.

Stanovich, K. E. (2011). Rationality and the Reflective Mind. Oxford University Press. Marco tripartito sobre la cognición humana; localiza la disracionalidad en la mente reflexiva.

von Neumann, J. & Morgenstern, O. (1944). Theory of Games and Economic Behavior. Princeton University Press. Axiomatización clásica de la utilidad esperada como ideal teórico de racionalidad de decisión.

También te interesa

• El humano como máquina defectuosa
• La toma de decisiones sin datos
• La emoción como ruido

En otros sitios

• Bounded Rationality (Stanford Encyclopedia of Philosophy)
• Bounded rationality (Wikipedia)