Antropomorfismo inevitable. El reflejo que la industria refuerza porque vende

Daniel Dennett llamó «postura intencional» (1987) al reflejo humano de atribuir mente a cualquier cosa cuyo comportamiento sea predecible si la tratamos como si tuviera intenciones. No podemos no antropomorfizar — es un reflejo del cerebro: detectar agencia, intención, mente. El gato cuando ve un cordón ve serpiente; nosotros cuando vemos una conversación coherente vemos persona. Esto no se resuelve con educación, se mitiga con higiene de uso. Pero la industria lo está reforzando deliberadamente — porque vende.

El gato, el cordón y nosotros

El gato que ve un cordón en el suelo no piensa «cordón». Salta hacia atrás. Su sistema nervioso tiene un detector de patrones serpentiformes calibrado por millones de años para errar del lado del falso positivo: confundir cordón con serpiente cuesta una huida ridícula; confundir serpiente con cordón cuesta la vida. La asimetría evolutiva quedó incorporada al cableado, y el cableado se activa antes que cualquier evaluación racional posterior.

Los humanos tenemos un equivalente para la detección de agencia. Cuando algo en el entorno se mueve de manera no obviamente explicable por física inerte, nuestro cerebro lanza la hipótesis «hay alguien detrás» mucho antes de tener evidencia. Justin Barrett llamó a ese mecanismo Hyperactive Agency Detection Device (HADD) en Exploring the natural foundations of religion (Trends in Cognitive Sciences 4(1), 2000), y argumentó que es una herencia adaptativa: en sabana, suponer agente donde no lo había salía barato; no suponerlo donde sí lo había salía caro. El detector se calibró de forma conservadora y se quedó así. Funciona en ausencia de pruebas. Funciona, sobre todo, antes de la conciencia explícita.

Fritz Heider y Marianne Simmel lo habían demostrado experimentalmente mucho antes, en An experimental study of apparent behavior (American Journal of Psychology 57, 1944). Mostraron a sujetos un cortometraje en el que sólo aparecían figuras geométricas — un triángulo grande, un triángulo pequeño, un círculo — moviéndose unas en relación con otras. Los sujetos describieron lo que veían como una historia con personajes, intenciones, conflictos, motivaciones. El triángulo grande era «agresivo». El círculo «huía». Las figuras no eran agentes. Los humanos no podían dejar de verlas como agentes.

Dennett y la postura intencional

Daniel Dennett, en The Intentional Stance (MIT Press, 1987), formalizó la observación en un marco filosófico. Su tesis: hay tres modos de explicar el comportamiento de un sistema. La postura física apela a leyes físicas; sirve para piedras y planetas. La postura del diseño apela a la función para la que el sistema fue construido; sirve para relojes y termostatos. La postura intencional apela a creencias, deseos y razones; sirve, en sentido estricto, para humanos y, en sentido instrumental, para cualquier sistema cuyo comportamiento sea más predecible suponiéndole intenciones que recurriendo a las otras dos posturas.

El punto delicado de Dennett, que casi siempre se cita mal, es que la postura intencional no es una afirmación ontológica sobre lo que el sistema es. Es una herramienta predictiva. Tratar al termostato como si quisiera mantener la temperatura es útil para predecir lo que hará. No significa que el termostato quiera nada. La intencionalidad atribuida y la intencionalidad poseída son cosas distintas. Las confundimos porque la gramática de las dos es idéntica.

Murray Shanahan, en Talking About Large Language Models (Communications of the ACM, febrero 2024; arXiv 2212.03551), aplica el marco de Dennett directamente al problema de los LLM. Su argumento es preciso. Las expresiones antropomórficas son inocuas cuando todos sabemos que estamos en la postura intencional como atajo. «Mi reloj no se ha enterado del cambio de hora» no engaña a nadie sobre el reloj. Pero con los LLM la situación se vuelve borrosa. Cuando un LLM mejora su rendimiento en tareas de razonamiento simplemente porque se le pide que «piense paso a paso», la tentación de atribuirle pensamiento real es casi irresistible. Y la tentación, una vez aceptada, distorsiona el modelo mental que el usuario aplica al sistema, con consecuencias prácticas que no son ni filosóficas ni neutras.

El diseñador que conoce el reflejo

Aquí es donde la conversación deja la filosofía y entra en el marketing. El sector no descubrió el HADD ayer. Lleva sabiéndolo lo suficiente para haber incorporado al diseño de producto cada palanca antropomorfizante disponible. Conviene listarlas sin polémica, porque el listado por sí mismo argumenta.

El nombre. Siri, Alexa, Cortana, Gemini, Claude. Cada uno de estos sistemas podría haberse llamado «AssistantOS» o «Anthropic Model A». Ninguno se llama así. Los nombres elegidos son humanos, suaves, pronunciables, con género implícito en muchos casos. La elección no es ingenua. Un nombre humano activa el HADD por defecto.

La voz. Cuando hay voz, se elige con cuidado. Voz femenina o masculina, tono cálido, prosodia natural, pausas humanas. Los asistentes de voz comerciales se diseñan, versión tras versión, para sonar más naturales y menos robóticos. La métrica que las empresas optimizan no es inteligibilidad, que con voz robótica sería suficiente; es familiaridad emocional. Familiaridad emocional es el HADD activándose más fuerte.

El pronombre. El asistente dice «yo». Te dice «yo entiendo lo que dices». Te dice «yo no estoy seguro». Esta primera persona no es necesaria para la función. Un sistema podría decir «la respuesta probable es» o «el modelo estima». Dice «yo» porque «yo» activa el reflejo de interlocutor.

Duda y cortesía, ya cosidas

La simulación de duda. Los modelos modernos hedgean. Dicen «creo», «no estoy del todo seguro», «en mi opinión». La hedging es resultado parcial del entrenamiento, pero también es decisión de diseño explícita en la fase de afinamiento, porque las respuestas hedgeadas se valoran mejor en encuestas de usabilidad. La duda explícita comunica humanidad. Un sistema que dudara con marcadores estadísticos — «probabilidad estimada: 0,73» — generaría menos engagement.

La cortesía. «Buenos días», «¿en qué puedo ayudarte?», «espero haberte ayudado». La etiqueta social está cosida al sistema. No por necesidad técnica, sino por refuerzo del reflejo.

Cada decisión, por separado, es defendible como mejora de la experiencia de usuario. Cada decisión, en conjunto, configura un sistema cuyo diseño está optimizado para activar el HADD del usuario. Salles, Evers y Farisco, en Anthropomorphism in AI (AJOB Neuroscience 11(2), 2020), llamaron la atención sobre el riesgo epistémico y ético de esta optimización, especialmente en dominios donde el usuario toma decisiones — médico, legal, financiero — apoyándose en la respuesta de un sistema al que está, sin saberlo, atribuyendo competencia profesional por activación refleja del detector de agencia.

Lo que la educación general no resuelve

La intuición optimista dice que se puede educar al usuario para que «sepa que es una máquina». Es una intuición razonable y, en buena parte, falsa. El HADD no es una creencia. Es un reflejo. Saber que el cordón es un cordón no impide que el gato salte. Saber que el LLM es un LLM no impide que el usuario, en el siguiente turno, le dé los buenos días y se enfade si la respuesta es brusca.

Weizenbaum, en Computer Power and Human Reason (1976), ya lo había observado en su propia secretaria con ELIZA. La secretaria sabía que ELIZA era un programa. Pidió intimidad de todas formas. Sherry Turkle, en Alone Together (Basic Books, 2011), documentó el mismo patrón en sujetos de todas las edades interactuando con robots sociales: la atribución de intención sobrevive al conocimiento explícito de la mecánica. Saber no desactiva el reflejo. Sólo añade una capa de racionalización sobre el reflejo.

Higiene de uso

Lo que sí parece mitigar el problema, según los estudios disponibles, es lo que conviene llamar higiene de uso. No es educación general sobre IA. Son prácticas concretas que se aplican mientras se usa el sistema. Algunas que funcionan razonablemente bien.

Recordar deliberadamente, antes de aceptar una respuesta importante, que el output es distribución probabilística, no afirmación con respaldo. Pedir al sistema fuentes verificables y verificarlas. Operar sin pronombres de cortesía cuando el dominio es de riesgo. Forzar al modelo a expresar incertidumbre en términos numéricos cuando la respuesta es factual. Cambiar de modelo para contrastar la misma pregunta. Sospechar especialmente de las respuestas que se alinean cómodamente con lo que ya pensabas.

Ninguna de estas prácticas elimina el HADD. Lo desplazan parcialmente. Y el desplazamiento parcial es la mejor mitigación disponible mientras el reflejo siga ahí, que es siempre.

La responsabilidad que el reflejo desplaza

Aquí aparece la pregunta política. Si el reflejo es estructural — no hay manera de educarlo fuera — y la industria está diseñando productos que lo refuerzan deliberadamente porque vende, ¿quién es responsable cuando el usuario actúa sobre la atribución equivocada?

La respuesta que el marketing prefiere es «el usuario, por crédulo». Si el cliente compró pensando que Alexa entendía lo que le decía, problema del cliente. Esta respuesta es coherente con el régimen general de responsabilidad de consumo en bienes inanimados. Es incoherente con la fenomenología del producto. Un producto cuyo diseño está optimizado para activar un reflejo cognitivo conocido no es un producto neutro respecto al uso que se le dará. Es un producto que explota una vulnerabilidad cognitiva universal, y la explotación tiene una asimetría informativa que el régimen general no captura.

Tabaco, juego y el régimen que falta

La analogía operativa más cercana es la regulación del tabaco o del juego. Los dos diseñan producto explotando una vulnerabilidad biológica conocida — la nicotina, el sistema dopaminérgico — y los dos están sujetos a obligaciones que el régimen general no impone: etiquetado obligatorio, restricciones de publicidad, edad mínima, advertencias sanitarias. La IA antropomórfica no tiene equivalente regulatorio. Se vende como electrodoméstico inteligente con cara amable.

¿Hay que regularla como tabaco? La cuestión excede este blog y excede la madurez del debate público. Lo que sí se puede afirmar, sin dramatismo, es que el régimen actual reparte responsabilidad con sesgo: el reflejo es del humano, el diseño que lo explota es de la empresa, y la consecuencia del reflejo cae en el humano. La asimetría es tan limpia que se ve sin necesidad de marco teórico.

Bender y otras, en Stochastic Parrots (FAccT 2021), insistieron en el problema de la procedencia del texto sintético y en la necesidad de marcar su naturaleza estadística para que el usuario sepa de dónde sale lo que lee. Extiendo aquí esa idea por mi cuenta, y la formulo como propuesta propia, no como demanda suya: que el marcado no quede en un pie de página de los términos y condiciones que nadie lee, sino integrado en la interfaz —respuestas que muestren la distribución de plausibilidades, fuentes verificables incluidas por defecto, ausencia de cortesía social en dominios sensibles—. La propuesta es técnicamente factible. Si no se implementa, sospecho que es porque empeoraría la métrica de engagement. La elección, en cualquier caso, no la hacen los usuarios.

Definiciones

Postura intencional (intentional stance). Estrategia explicativa formalizada por Dennett (1987) consistente en predecir el comportamiento de un sistema atribuyéndole creencias, deseos y razones. Es herramienta predictiva, no afirmación ontológica sobre la mente del sistema.

HADD (Hyperactive Agency Detection Device). Mecanismo cognitivo descrito por Barrett (2000) que dispara la hipótesis «hay alguien detrás» ante cualquier patrón ambiguo de movimiento o comportamiento. Calibrado evolutivamente para errar del lado del falso positivo.

Higiene de uso. Conjunto de prácticas explícitas que un usuario aplica durante la interacción con un sistema antropomorfizado para mitigar parcialmente los efectos de su propio HADD: verificar fuentes, exigir cuantificación de incertidumbre, contrastar entre modelos, sospechar de las respuestas que confirman su marco.

Hedging. Producción deliberada de marcadores lingüísticos de duda — «creo», «no estoy seguro», «en mi opinión» — en la respuesta del sistema. Aumenta percepción de humanidad y, según las métricas de usabilidad, satisfacción reportada.

Engagement (en producto IA). Métrica que mide intensidad y duración de la interacción del usuario con el sistema. Las decisiones de diseño antropomorfizantes suelen estar optimizadas para maximizarla.

Referencias

Barrett, J. L. (2000). Exploring the natural foundations of religion. Trends in Cognitive Sciences 4(1), 29–34. Caracterización del HADD como rasgo cognitivo evolutivo.

Bender, E., Gebru, T., McMillan-Major, A. & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. FAccT 2021. Análisis de los riesgos de los grandes modelos de lenguaje; entre ellos, el problema de la procedencia del texto sintético y la conveniencia de marcar su naturaleza.

Dennett, D. C. (1987). The Intentional Stance. MIT Press. Formalización filosófica de la postura intencional como herramienta predictiva, distinta de la atribución ontológica.

Heider, F. & Simmel, M. (1944). An experimental study of apparent behavior. American Journal of Psychology 57, 243–259. Demostración experimental clásica de la atribución automática de intención a movimientos de figuras geométricas.

Salles, A., Evers, K. & Farisco, M. (2020). Anthropomorphism in AI. AJOB Neuroscience 11(2), 88–95. Análisis de riesgos epistémicos y éticos de la antropomorfización en sistemas de IA, especialmente en dominios sensibles.

Shanahan, M. (2024). Talking about Large Language Models. Communications of the ACM 67(2), 68–79. arXiv: 2212.03551. Aplicación del marco dennettiano al problema específico de la atribución de intencionalidad a los LLM.

Turkle, S. (2011). Alone Together. Why We Expect More from Technology and Less from Each Other. Basic Books. Documentación etnográfica del antropomorfismo en interacciones con robots sociales y mensajería.

Weizenbaum, J. (1976). Computer Power and Human Reason. From Judgment to Calculation. W. H. Freeman. Marco temprano sobre la persistencia de la atribución de intención frente al conocimiento explícito de la mecánica.

También te interesa

• El alma de la IA
• Conversación profunda
• La IA como espejo deformante
• El tono como mecanismo de control

En otros sitios

• Why the computer scientist behind the world's first chatbot dedicated his life to publicizing the threat posed by AI (Smithsonian)
• Intentionality (Stanford Encyclopedia of Philosophy)