La toma de decisiones sin datos. La incertidumbre radical que la IA no replica

Una vez tuve que decidir algo grande sin la mitad de la información que habría querido. No la conseguí a tiempo, así que decidí igual. Salió razonablemente bien, aunque eso lo sé ahora; entonces no había forma de saberlo, y ahí está justo lo que me interesa. Casi todas las decisiones que de verdad marcan una vida se parecen a aquella. Y hay una máquina que se anuncia como ayuda para tomarlas que, precisamente en ese terreno, no puede hacer lo que hace un humano. Frank Knight separó el riesgo de la incertidumbre en 1921. La IA está afinada para el primero y se atasca en la segunda.

La distinción que pocos hacen y casi todos necesitan

Frank Knight publicó en 1921 Risk, Uncertainty and Profit, un tratado de economía que dejó incrustada en la disciplina una distinción que cien años después sigue trabajando. El discurso público sobre IA la olvida con una regularidad que ya cuesta atribuir al azar.

El riesgo, en Knight, describe una situación con probabilidades conocidas. Sabes qué puede pasar y con qué frecuencia, calculas valores esperados, optimizas. Tirar un dado es riesgo en sentido estricto: la distribución de resultados está cerrada y a la vista. Ahí dentro viven los seguros, que calculan la probabilidad de siniestro sobre poblaciones grandes y fijan primas en consecuencia, y buena parte de la gestión de carteras que se apoya en series históricas.

La incertidumbre es otra cosa, y la diferencia no es de grado. Es la situación en la que las probabilidades no se conocen y no pueden conocerse a priori. Sabes que pueden pasar cosas; ignoras cuáles y con qué frecuencia; no tienes distribución sobre la que optimizar. No puedes calcular valores esperados sin inventarte de antemano los números que entran en el cálculo, lo cual ya no es calcular. Lanzar un producto a un mercado que aún no existe cae aquí. Aceptar un trabajo en un sector emergente, mudarse a un país desconocido, casarse con alguien, también, por mucho que la cultura matrimonial se empeñe en venderlo como un cálculo de viabilidad.

La distinción no es escolástica, porque cambia las herramientas. Para el riesgo, la probabilística clásica sirve. Para la incertidumbre no sirve, sencillamente porque no hay distribución a la que aplicarla. Y la mayor parte de la inteligencia artificial contemporánea está construida para el primer terreno: sus modelos predictivos estiman probabilidades sobre distribuciones aprendidas. Cuando la situación cae fuera de esa distribución, lo que devuelven no es un «no sé» calibrado. Es una proyección desde lo que sí conocen, servida sin avisar de que es proyección.

Lo que pasa en la cabeza humana cuando no hay datos

Hay una capacidad humana mal documentada, en parte porque cuesta meterla en un laboratorio, que conviene nombrar antes de seguir: la de decidir bajo incertidumbre radical. Pasar a la acción sin esperar a tener información suficiente. Elegir un curso sabiendo que puede ser el equivocado, y sin poder siquiera calcular la probabilidad de equivocarse.

Mirada desde el racionalismo clásico, esa capacidad tiene mala prensa. Suena a fe, a impulso, a corazonada de sobremesa. La psicología cognitiva la ha rastreado bajo varias etiquetas que atrapan, cada una, un trozo de la misma operación: intuición experta, juicio rápido, esa corazonada visceral que Gigerenzer llama gut feeling, la decisión guiada por marcadores somáticos de Damasio. Cuando los datos no alcanzan, el aparato humano integra lo tácito —la experiencia previa parecida, el contexto situado, los valores, la emoción, la presión del reloj— y produce una salida. No es una salida óptima, ni puede serlo en sentido normativo, porque la situación no admite optimización. Es funcional en el único sentido que cuenta aquí: el agente avanza en vez de quedarse clavado.

Damasio formuló en Descartes' Error (Putnam, 1994) la hipótesis del marcador somático como mecanismo neural detrás de todo esto. Sus pacientes con daño en la corteza prefrontal ventromedial conservaban intacta la capacidad de calcular en abstracto y perdían la de cerrar una decisión cuando los datos eran ambiguos. Se quedaban dándole vueltas a la opción, sopesando ventajas e inconvenientes indefinidamente, incapaces de parar. Bechara, Damasio y sus colegas documentaron esa parálisis de forma experimental en el Iowa Gambling Task (Cognition, 1994): inteligencia preservada, decisión rota. Sin el marcador somático no llega la elección bajo incertidumbre. Llega un cálculo que se prolonga hasta el infinito.

Decidir sin datos, visto así, no es una avería del pensamiento racional, sino funcionalidad central del aparato. Quítala y queda un sistema cognitivamente impecable e inservible para vivir.

Tres maneras de callar ante el vacío

Conviene describir, sin caricatura, qué hace una IA cuando se le pide que decida bajo incertidumbre radical, porque lo observable no es una sola conducta. Hay al menos tres salidas, y ninguna es la del humano.

A veces declina. «No tengo información suficiente para responder a eso.» Es una respuesta legítima, calibrada por el RLHF (el ajuste por refuerzo con retroalimentación humana) para que el sistema no afirme lo que no puede sostener, y a menudo es la deseable. El problema no está en la frase, sino en lo que viene detrás: cuando el usuario insiste o reformula, el sistema suele abandonar la postura honesta y entregar igualmente algo, casi siempre proyectado desde la distribución que sí domina.

Otras veces promedia. Devuelve la mediana del corpus para casos parecidos —«las personas que se enfrentan a esto suelen considerar tales factores»— y eso sirve si lo que buscas es saber cómo piensa la mediana. No sirve, o directamente engaña, si lo que necesitas saber es qué te conviene a ti, porque tu caso puede estar lejos de esa mediana y el promedio no tiene manera de detectarlo.

Y a veces alucina: produce afirmaciones plausibles que no apoya nada y las suelta con la fluidez de siempre. Es la opción que la conversación pública señala una y otra vez. Bajo incertidumbre radical su frecuencia tiende a subir, porque se está empujando al modelo a responder sobre un territorio donde su entrenamiento es pobre, y la maquinaria estadística rellena el hueco con coherencia local sin anclaje en nada.

Lo que hace una persona en el mismo apuro no se parece a ninguna de las tres. La persona decide, carga con el riesgo de fallar, se compromete con un rumbo y gestiona después las consecuencias. La IA no asume el compromiso porque no tiene compromisos que asumir; su «decisión» es texto en una pantalla y las consecuencias no le caen encima a ella. Al usuario sí. Esa asimetría lo cambia todo.

Hayek y los fragmentos dispersos

Hay otro ángulo, más macro, que vale la pena incorporar. Friedrich Hayek planteó en The Use of Knowledge in Society (American Economic Review 35, 1945) una observación que se lee mejor como descripción epistémica que como manifiesto, aunque naciera de una polémica política. El conocimiento que importa para decidir en economía no existe como un agregado disponible en algún sitio. Vive como fragmentos dispersos en miles o millones de cabezas, cada una con su contexto, sus circunstancias, su información local. Ningún planificador central puede juntarlos sin perder por el camino lo que los hacía útiles, que era precisamente su anclaje al lugar y al agente que los tenía.

La consecuencia alcanza a cualquier sistema que pretenda decidir bien sobre lo específico partiendo de lo agregado. Al agregar se pierde lo local, y las decisiones que salen de ahí resultan sensatas en promedio y erróneas justo en los casos particulares donde lo local era el factor decisivo. La IA contemporánea, entrenada sobre corpus masivos de información agregada, trabaja dentro de esa misma limitación: sabe mucho de muchos y poco del individuo concreto que la consulta.

Cuando ese individuo, racional dentro de su ventana de tiempo, le delega la decisión suponiendo que la máquina sabe más, la asimetría se le da la vuelta sin que la perciba. La máquina sabe más en agregado y menos en lo concreto, que era exactamente lo que él necesitaba.

La aproximación de Simon. Bastante en vez de óptimo

Herbert Simon, en Rational Choice and the Structure of the Environment (Psychological Review 63, 1956), desarrolló el satisficing —contracción de satisfy y suffice— para describir cómo deciden los agentes reales cuando no pueden optimizar. Un agente con recursos limitados, metido en un entorno de información incompleta, no rastrea la mejor opción posible. Rastrea la primera que cruza un umbral aceptable, y en cuanto aparece la toma y abandona la búsqueda. No se compara con todas las alternativas porque las alternativas son demasiadas y no hay tiempo ni cabeza para examinarlas.

Desde la racionalidad clásica eso parece subóptimo. Desde la racionalidad ecológica de Gigerenzer y Goldstein (Psychological Review 103, 1996), y desde el marco de Risk Savvy (Gigerenzer, 2014), es lo único viable. Taleb, en The Black Swan (Random House, 2007), recogió la distinción de Knight y la empujó hacia los extremos: lo que de verdad pesa en una vida no son los riesgos cuantificables, sino los cisnes negros que revientan la distribución que dábamos por buena. Y hay un matiz que rara vez se cuenta. En muchos contextos, conformarse con lo aceptable produce mejores resultados agregados que forzar la optimización, porque buscar más allá del umbral cuesta, en promedio, más de lo que vale encontrar algo apenas mejor.

En las decisiones grandes somos satisficers por defecto, aunque nos cueste reconocerlo. Elegimos pareja entre las personas que conocemos, no entre todas las teóricamente posibles. Aceptamos un trabajo cuando llega una oferta razonable, no cuando hemos auditado el mercado entero. Compramos una de las casas que hemos visto. La decisión es localmente buena, no globalmente óptima, y la sabiduría que admiramos en quien decide bien está más en saber cuándo dejar de buscar que en buscar más.

La IA, entrenada para optimizar sobre métricas explícitas, no se conforma así de manera natural. Tiende a devolver la mediana del corpus o a desplegar el abanico entero de alternativas con sus pros y sus contras, que es una operación informativa, no decisional. Cuando el usuario, ya saturado de información, sigue sin saber qué hacer, el sistema ha cumplido su tarea técnica sin haber rozado el problema que tenía delante esa persona.

Pareja, profesión, mudanza, ruptura, hijos

Vale la pena mirar de cerca las decisiones que de verdad marcan una biografía, y cómo se toman en realidad y no en el folleto.

Casarse o no con alguien se decide con información incompleta sobre quién es de veras el otro a largo plazo, sobre cómo cambiará la relación, sobre cómo cambiarán los dos por el camino. Las parejas que aguantan cuarenta años no tenían en el año cero ningún dato del año cuarenta. Decidieron sin lo necesario para optimizar, y no había manera de tenerlo.

Elegir profesión es lo mismo desplazado en el tiempo. Las consecuencias de aceptar esta carrera, esta oferta, este cambio de sector, se manifiestan a décadas vista; la información disponible al decidir cubre, con suerte, los primeros años. Lo que venga después se firma ahora, a ciegas.

Mudarse de país, de ciudad o de barrio se decide con datos parciales y casi siempre sesgados, porque lo que uno cree saber de un sitio desde fuera no se parece a lo que descubre viviéndolo dentro. La ruptura tiene además una trampa propia: cuando un matrimonio se disuelve, un trabajo se deja o una amistad se acaba, tanto las consecuencias de cortar como las de no cortar son inciertas, así que rara vez hay base sólida para preferir una vía sobre la otra. Se elige a oscuras en ambos sentidos.

Y luego están los hijos, que son el caso límite. Las consecuencias durarán el resto de la vida del que decide, y no existe ningún dato sobre el agente futuro en que la paternidad lo convertirá, porque ese agente todavía no existe. Es un acto de fe operativa, en el sentido más literal y menos devoto de la expresión.

Ninguna de estas decisiones se toma con datos completos. Ninguna admite optimización. Todas se toman igual, y la mayoría de quienes las toman sobreviven a las consecuencias y levantan vidas razonables. Decidir bajo incertidumbre radical es lo que permite hacer todo esto: no a pesar de no tener datos, sino reconociendo que no los hay y avanzando con ese reconocimiento a cuestas.

La delegación que no se completa

Aquí asoma el problema práctico que trae consigo la difusión de la IA. La intuición popular dice que una máquina con tanto conocimiento agregado tiene que ayudar a decidir mejor estas cosas. La intuición es a medias correcta y a medias trampa, y conviene separar las dos mitades.

Correcta, porque la IA aporta información estructurada, casos comparables, marcos de análisis, variables que quizá se nos pasaban. Quien decide después de consultarla sabe más, en agregado, que quien decide sin hacerlo, y a igualdad de lo demás más información tiende a dar mejor decisión. Negarlo sería tonto.

Trampa, porque la IA no toma la decisión. Entrega material, no compromiso. Y cuando el usuario, agotado de procesar, le pide directamente que decida por él, lo que recibe parece una decisión y materialmente no lo es: es un consejo dicho con la cadencia de una decisión. Al actuar sobre ese consejo es él quien decide, cargando con el peso entero, mientras el sistema, en términos legales y operativos, no carga con nada.

La consecuencia más fina llega despacio, y es la que de verdad vale la pena retener. Si una porción creciente de las decisiones de incertidumbre radical empieza a tomarse tras digerir material agregado de la IA, el agente humano deja de entrenar el músculo de decidir sin datos. Hasta la experiencia subjetiva del acto cambia de forma: ya no es «elijo asumiendo que no sé», sino «elijo después de haber procesado toda la información que el sistema me dio». El desplazamiento es falso en lo epistémico, porque la información sigue sin bastar para esa decisión concreta, y verdadero en lo psicológico, porque el usuario siente que ha hecho los deberes y eso le basta para apoyar el pie y avanzar.

Lo que se erosiona con el uso prolongado es la tolerancia interna a la incertidumbre. La parte del aparato que sabía operar sin saber se vuelve más rara, menos accesible, más incómoda de habitar. Y cuando llega la próxima decisión genuinamente radical —la enfermedad que nadie vio venir, el vuelco vital sin precedente, la elección que no se parece a ninguna anterior—, el agente corre a la IA esperando los datos que la IA no puede tener, y se queda más paralizado que si no la hubiera abierto.

La capacidad que no sabemos volver a construir

La pregunta práctica es difícil y prefiero dejarla abierta. Si la capacidad de decidir bajo incertidumbre radical se entrena decidiendo bajo incertidumbre radical, y si esa práctica mengua a medida que crece la delegación al sistema agregado, qué le ocurre al agente humano que lleva quince años consultando a la IA antes de cada elección.

Caben dos lecturas. Una pesimista, según la cual pierde calibración. Una optimista, según la cual la conserva latente y recuperable cuando hace falta. No hay datos para preferir ninguna todavía, porque el experimento masivo lleva apenas unos años en marcha. Lo único afirmable es que esa capacidad no se sostiene por inercia: se sostiene con uso, y el uso está bajando.

Existe una forma de frenar la erosión sin renunciar a la herramienta, y pasa por reservarse a propósito las decisiones donde la incertidumbre es radical y donde lo que falta no es información agregada. No consultar al sistema antes de elegir pareja. No consultarlo antes de aceptar o rechazar el vuelco vital. No ir a buscar en él la coartada de lo que el cuerpo ya intuye. Esas decisiones se entrenaban poniendo a la persona entera delante del problema, sin escudo, y solo se siguen entrenando si la persona acepta ponerse ahí otra vez.

No somos mejores que la IA por decidir mejor con datos completos. Con datos completos pierde casi siempre quien tiene corteza prefrontal en vez de tarjeta gráfica. Somos otra cosa: somos los que deciden algo cuando los datos no bastan, y esa capacidad, si se reserva, sigue ahí, mientras que si se delega se va. Casi todas las decisiones importantes de una vida, contadas con honestidad, dependen de esa capacidad y no de la otra.

Definiciones

Riesgo (knightiano). Situación con probabilidades conocidas, sobre las que se puede calcular valor esperado y optimizar. Las técnicas probabilísticas clásicas funcionan dentro de este régimen.

Incertidumbre (knightiana). Situación con probabilidades no conocidas ni estimables a priori. Las técnicas probabilísticas clásicas no aplican, y la decisión se toma con otros recursos cognitivos.

Satisficing. Concepto asociado a Herbert Simon. Estrategia consistente en elegir la primera opción que cruza un umbral aceptable, en lugar de la mejor entre todas las alternativas. Adaptativa cuando el coste de seguir buscando supera lo que vale, en promedio, encontrar algo mejor.

Conocimiento fragmentado. Tesis de Hayek (1945). El conocimiento relevante para decisiones específicas no existe agregado, sino disperso en cabezas individuales con su contexto local; al agregarlo se pierde lo que lo hacía útil.

Marcador somático. Hipótesis de Damasio (1994). Señal corporal ligada a experiencias previas que el cerebro reactiva ante situaciones parecidas y que funciona como prefiltro emocional de las opciones. Sin ella, la decisión bajo incertidumbre radical no llega a cerrarse.

RLHF. Ajuste de un modelo por refuerzo a partir de retroalimentación humana, que entre otras cosas calibra cuándo el sistema debe abstenerse de afirmar lo que no puede sostener.

Referencias

Bechara, A., Damasio, A. R., Damasio, H. & Anderson, S. W. (1994). Insensitivity to future consequences following damage to human prefrontal cortex. Cognition 50(1-3), 7–15. Documentación experimental de la parálisis decisional en pacientes con lesión prefrontal pese a inteligencia preservada (Iowa Gambling Task). Confirmada en PubMed (PMID 8039375).

Damasio, A. (1994). Descartes' Error. Emotion, Reason, and the Human Brain. G. P. Putnam's Sons, Nueva York. Hipótesis del marcador somático como base neural de la decisión bajo incertidumbre.

Gigerenzer, G. (2014). Risk Savvy. How to Make Good Decisions. Viking. Distinción operativa entre situaciones de riesgo y de incertidumbre y herramientas adecuadas a cada una.

Gigerenzer, G. & Goldstein, D. G. (1996). Reasoning the Fast and Frugal Way. Models of Bounded Rationality. Psychological Review 103(4), 650–669. Evaluación empírica de heurísticas simples bajo incertidumbre.

Hayek, F. A. (1945). The Use of Knowledge in Society. American Economic Review 35(4), 519–530. Análisis fundacional sobre la naturaleza fragmentada y local del conocimiento relevante para decidir.

Knight, F. H. (1921). Risk, Uncertainty and Profit. Houghton Mifflin, Boston. Distinción fundacional entre riesgo (probabilidades conocidas) e incertidumbre (probabilidades no estimables a priori).

Simon, H. A. (1956). Rational Choice and the Structure of the Environment. Psychological Review 63(2), 129–138. Desarrollo del concepto de satisficing como modelo realista de decisión en entornos de información incompleta.

Taleb, N. N. (2007). The Black Swan. The Impact of the Highly Improbable. Random House. Reformulación contemporánea de la distinción knightiana con énfasis en los eventos extremos.

También te interesa

• El humano como máquina defectuosa
• La irracionalidad como ventaja evolutiva
• La emoción como ruido
• La delegación moral

En otros sitios

• Explained: Knightian uncertainty (MIT News)
• Knightian uncertainty (Wikipedia)