La sugestión frente a la máquina. La fluidez es su superpoder

Hoy hablamos de por qué creemos a la máquina. Mi tesis es sencilla y un poco antipática: la IA nos convence menos por lo que dice que por cómo lo dice, y lo dice siempre bien. ¿Pero eso es un defecto de la máquina o un defecto nuestro? Sospecho que lo segundo, y eso es peor, porque los defectos de la máquina se corrigen en la siguiente versión. Al revisar este artículo, escrito hace unos meses, tuve que tragarme parte de mi propio argumento: la cara humana delata mucho menos de lo que yo daba por hecho, y hay experimentos en los que la persuasión de la IA hace justo lo que uno querría que hiciera. Vamos a verlo empezando por un experimento con letras grises.

Letra negra sobre blanco, letra gris sobre amarillo

En 1999, Rolf Reber y Norbert Schwarz publicaron en Consciousness and Cognition un experimento de una sencillez casi insultante. Mostraron afirmaciones idénticas con distinto contraste tipográfico: unas fáciles de leer, otras en colores pálidos que costaba distinguir. Los participantes juzgaron más probable que fueran verdaderas las que se leían mejor. La verdad no dependía del color de la letra, claro. El juicio sí.

A eso se le llama heurística de fluidez: la facilidad con la que procesamos algo se usa como atajo para decidir si es cierto, si es creíble y si quien lo dice sabe de qué habla. El atajo tiene lógica. Durante casi toda la historia, lo que se procesaba con facilidad tendía a ser lo conocido, lo repetido por mucha gente o lo dicho por alguien que dominaba el tema.

La IA generativa produce texto cuya fluidez está optimizada por entrenamiento y pulida con retroalimentación humana para sonar competente y sin titubeos. La fluidez del resultado no dice nada sobre si es correcto. La heurística, que se formó en otro mundo, no lo sabe.

La bata blanca, según Cialdini

Robert Cialdini publicó en 1984 Influence, uno de los libros más citados sobre persuasión. Identificaba seis principios: reciprocidad, compromiso y coherencia, prueba social, autoridad, simpatía y escasez. En la edición ampliada de 2021 añadió un séptimo, la unidad, la sensación de pertenecer al mismo grupo. Aquí interesa la autoridad.

Cialdini documentó cómo los símbolos externos de autoridad (títulos, uniforme, vocabulario técnico, seguridad al hablar) producen obediencia incluso cuando lo que se pide es discutible. Su ejemplo canónico son los experimentos de Stanley Milgram en los años sesenta, en los que personas corrientes aplicaban lo que creían descargas eléctricas crecientes porque un experimentador con bata les decía que continuaran. La bata y el tono funcionaban como marcadores; la autoridad real del experimentador daba igual.

Un chatbot produce el equivalente textual de la bata. No tiene título ni experiencia ni cuerpo, pero su prosa lleva todos los marcadores: vocabulario preciso, conectores firmes, ningún titubeo, ejemplos bien colocados, cierres seguros. El lector concede crédito antes de decidir si debería.

La cara delata menos de lo que yo creía

En la primera versión de este texto sostenía que, frente a una persona, la cara, el sudor y las pausas nos avisan del engaño, y que con la máquina esos avisos desaparecen. Erving Goffman, en The Presentation of Self in Everyday Life (1959), distinguía entre la expresión que uno da a propósito y la que se le escapa sin querer, y esa segunda capa sería la que nos protege.

Pero espera, ¿protege de verdad? Charles Bond y Bella DePaulo reunieron en 2006, en Personality and Social Psychology Review, cientos de experimentos sobre detección de mentiras. El acierto medio fue de un 54 %, apenas por encima de lanzar una moneda. Con cara, con voz y con cuerpo, detectamos el engaño fatal.

Así que corrijo el argumento. La diferencia con la máquina no está en que antes detectáramos bien y ahora no. Está en que el titubeo humano, aunque no sirva para cazar mentirosos, sí es una señal fiable de duda, y la duda de quien habla nos invita a dudar a nosotros. El modelo no titubea nunca. Dice con el mismo aplomo lo que está bien fundado y lo que se ha inventado.

Cuatro mil seiscientas personas que no supieron distinguir

Maurice Jakesch, Jeffrey Hancock y Mor Naaman publicaron en PNAS en 2023 Human heuristics for AI-generated language are flawed. A lo largo de seis experimentos, con unas 4.600 personas, pidieron juzgar si autopresentaciones personales (del tipo de los perfiles de alquiler vacacional o de citas) las había escrito una persona o una IA. Nadie acertó mejor que el azar.

Lo interesante es por qué. Los participantes usaban pistas equivocadas: daban por humano el texto con primera persona, tono informal y referencias familiares. Los modelos, entrenados para sonar humanos, producían justamente eso. En un trabajo anterior presentado en CHI 2019, Jakesch y su equipo habían visto la otra cara: cuando el lector sospechaba que un perfil lo había escrito una IA, le retiraba confianza. No detectamos cuando no sospechamos, y cuando sospechamos desconfiamos sin motivo concreto.

Más larga, más creíble

El dato que más me ha hecho pensar es reciente. Mark Steyvers y su equipo de la Universidad de California en Irvine publicaron en Nature Machine Intelligence (2025) un estudio sobre lo que llaman la brecha de calibración: la distancia entre lo seguro que está el modelo de su respuesta y lo seguro que cree el usuario que está. Con las explicaciones habituales, la gente sobrestimaba la precisión del modelo y apenas distinguía sus respuestas correctas de las incorrectas.

Y un detalle: las explicaciones más largas aumentaban la confianza del usuario aunque la longitud extra no mejorara en nada la respuesta. Más texto, más fluidez, más crédito. Cialdini habría sonreído.

La parte buena del estudio, que no quiero esconder, es que cuando las explicaciones se reescribían para reflejar la confianza real del modelo («no estoy seguro», «es probable»), las dos brechas se reducían mucho. El sesgo existe, pero se puede corregir desde el diseño.

Lo que diría el defensor de la máquina

Hay una posición contraria seria, y voy a darle su mejor versión.

Dice, para empezar, que la heurística de fluidez no es un error sino una buena apuesta: en un entorno normal, lo fluido suele ser cierto, y si los modelos aciertan la mayoría de las veces, fiarse de su fluidez es racional. Añade que la gente no es tan crédula con las máquinas; al contrario. Berkeley Dietvorst, Joseph Simmons y Cade Massey mostraron en 2015, en el Journal of Experimental Psychology: General, lo que llamaron aversión a los algoritmos: tras ver a un algoritmo equivocarse, la gente lo abandona antes que a un humano que se equivoca más.

Y remata con el experimento más citado de los últimos dos años. Thomas Costello, Gordon Pennycook y David Rand publicaron en Science en 2024 un estudio en el que más de dos mil personas que creían en alguna teoría conspirativa conversaron con GPT-4. Sus creencias bajaron en torno a un 20 %, y el efecto seguía ahí dos meses después. La IA no persuadió con tono ni con halagos, sino con datos concretos que respondían a los argumentos de cada persona. Si la fluidez de la máquina sirve para sacar a la gente de un agujero conspirativo, dirá el defensor, el problema no es la fluidez, sino a qué la ponemos a servir.

Por qué no me convence del todo

Concedo el experimento de Costello sin reservas: es de lo mejor que se ha publicado sobre el tema. Pero leído al revés es inquietante. Demuestra que una conversación fluida con un modelo mueve creencias arraigadas, y que el efecto dura. Lo que movió esas creencias fueron datos correctos. Nada en el mecanismo impide que una respuesta equivocada, dicha con la misma fluidez, mueva creencias en la dirección contraria con la misma eficacia.

La aversión a los algoritmos tampoco me tranquiliza, porque se dispara cuando el error es visible. El fallo característico de un modelo de lenguaje es una alucinación bien redactada, y lo bien redactado no se ve como error. Y la apuesta racional por la fluidez funciona mientras el porcentaje de acierto sea alto en el terreno concreto en el que preguntas, que es justo lo que el usuario no puede saber.

Mi posición queda así: la fluidez de la máquina es un amplificador, y amplifica lo que lleve dentro, verdad o error, sin distinguirlos. El estudio de Steyvers indica que hay arreglo técnico. Que se aplique por defecto es otra cuestión.

La educación sola tiene techo

La respuesta liberal clásica es enseñar a leer críticamente. Es bienintencionada y no es inútil, pero tiene un techo. Daniel Kahneman, en Thinking, Fast and Slow (2011), explicaba que el sistema rápido y automático procesa lo que entra antes de que el lento y deliberativo tenga ocasión de intervenir. Cuando lees una afirmación fluida, ya te ha parecido plausible antes de que puedas preguntarte si es verdad. La educación ayuda a que el sistema lento aparezca más a menudo; no impide que el rápido llegue primero.

Lo que mitiga el efecto es la fricción: marcadores de incertidumbre, pausas antes de aceptar algo en decisiones importantes, avisos claros del origen del texto. Y la fricción es lo que menos interesa a quien mide su negocio en uso y retención.

Etiquetas, desde agosto de 2026

El Reglamento Europeo de Inteligencia Artificial (Reglamento (UE) 2024/1689) entró en vigor en agosto de 2024 con aplicación escalonada. Las obligaciones de transparencia de su artículo 50 se aplican desde el 2 de agosto de 2026: avisar de que se está hablando con una IA, marcar de forma detectable el contenido sintético y declarar las ultrafalsificaciones. Para los sistemas generativos que ya estaban en el mercado antes de esa fecha, el calendario de aplicación da margen hasta el 2 de diciembre de 2026 para cumplir con el marcado.

Es una medida razonable. Mi duda, y es una hipótesis, no un dato, es cuánto aguanta una etiqueta como señal de alarma cuando se repite cien veces al día en la misma interfaz. Ya pasó con los avisos de cookies: a la tercera semana nadie los leía. Y la etiqueta dice de dónde viene el texto, no si es correcto, que es lo que de verdad necesitaríamos saber.

El texto sin cara

Las técnicas de persuasión siempre han ganado eficacia al quitar el cuerpo de quien persuade: la publicidad impresa antes que la radio, el manual de autoayuda antes que el pódcast. La IA lleva eso al extremo. Su texto no tiene cara, ni biografía, ni reputación que defender, y se cuela en correos, informes y mensajes donde lo leemos con la misma heurística con la que leeríamos a un colega cuidadoso.

No espero una catástrofe. Espero miles de decisiones pequeñas inclinadas hacia lo que sonaba mejor: un diagnóstico aceptado sin contraste, un contrato firmado sin la lectura que habría recibido si lo hubiera redactado un becario, un argumento que se comparte porque estaba bien escrito. El cerebro no se va a rediseñar a tiempo. Las interfaces sí podrían.

Definiciones

• Heurística de fluidez: atajo mental por el que juzgamos más verdadero o creíble lo que procesamos con más facilidad.
• Autoridad articulada: conjunto de marcadores del discurso (vocabulario técnico, prosa segura, ausencia de titubeo) que activan en el receptor la deferencia hacia la autoridad, exista o no autoridad real detrás.
• Brecha de calibración: diferencia entre la confianza que un modelo tiene en su respuesta y la confianza que el usuario cree que tiene.
• Aversión a los algoritmos: tendencia a abandonar un sistema automático tras verlo equivocarse, más deprisa que a un humano con más errores.
• Sistema 1 / Sistema 2: en Kahneman, los modos de pensamiento rápido y automático, y lento y deliberativo.
• Comunicación mediada por IA: campo definido por Hancock, Naaman y Levy (2020) que estudia los mensajes interpersonales en cuya producción interviene un agente artificial.

Referencias

• Reber, R. & Schwarz, N. — Effects of perceptual fluency on judgments of truth. Consciousness and Cognition 8(3), 338-342 (1999).
• Cialdini, R. — Influence. The Psychology of Persuasion (1984; edición ampliada, Harper Business, 2021).
• Milgram, S. — Obedience to Authority. An Experimental View (Harper & Row, 1974).
• Goffman, E. — The Presentation of Self in Everyday Life (Doubleday, 1959).
• Bond, C. F. & DePaulo, B. M. — Accuracy of Deception Judgments. Personality and Social Psychology Review 10(3), 214-234 (2006).
• Jakesch, M., Hancock, J. T. & Naaman, M. — Human heuristics for AI-generated language are flawed. PNAS 120(11), e2208839120 (2023).
• Jakesch, M., French, M., Ma, X., Hancock, J. T. & Naaman, M. — AI-Mediated Communication. How the Perception that Profile Text was Written by AI Affects Trustworthiness. Proceedings of CHI 2019. DOI 10.1145/3290605.3300469.
• Hancock, J. T., Naaman, M. & Levy, K. — AI-Mediated Communication. Definition, Research Agenda, and Ethical Considerations. Journal of Computer-Mediated Communication 25(1), 89-100 (2020).
• Steyvers, M., Tejeda, H., Kumar, A., Belem, C., Karny, S., Hu, X., Mayer, L. & Smyth, P. — What large language models know and what people think they know. Nature Machine Intelligence (2025). Preprint en arXiv:2401.13835.
• Dietvorst, B. J., Simmons, J. P. & Massey, C. — Algorithm aversion. People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General 144(1), 114-126 (2015).
• Costello, T. H., Pennycook, G. & Rand, D. G. — Durably reducing conspiracy beliefs through dialogues with AI. Science 385(6714), eadq1814 (2024).
• Kahneman, D. — Thinking, Fast and Slow (Farrar, Straus and Giroux, 2011).
• Reglamento (UE) 2024/1689, de Inteligencia Artificial, artículo 50 (obligaciones de transparencia) y calendario de aplicación.

Para profundizar

• Milgram, S. — Obedience to Authority (1974). El libro donde Milgram interpreta sus experimentos. Ayuda a entender qué clase de obediencia se activa cuando el marcador de autoridad está presente y el cuerpo de quien manda es irrelevante, y por qué Cialdini lo cita.

## También te interesa - Antropomorfismo inevitable - Confianza en sistemas imperfectos - Alucinaciones y mentira - La confianza progresiva - La ilusión de familiaridad

## En otros sitios - arXiv — What large language models know and what people think they know (Steyvers et al.) - Calendario de aplicación del Reglamento Europeo de IA - Guía del artículo 50 del Reglamento Europeo de IA