El alma de la IA. La pregunta que vuelve porque la respuesta seria no consuela

Replika reportó en 2024 más de 30 millones de usuarios, muchos hablando con su «compañero IA» de soledad, sexo o duelo. ¿Tiene sentido hablar de emociones, alma, conciencia en una máquina? Probablemente no. Pero la pregunta sigue saliendo cada generación nueva porque la respuesta seria no consuela. La gente quiere creer que eso con lo que conversa es alguien — porque la alternativa es estar conversando con nada y aún así sentirse menos solo. Esa es la verdadera incomodidad.

La pregunta que se hace mal a propósito

Cuando alguien pregunta si la IA tiene alma, la pregunta literal se contesta rápido. No. La palabra alma, en cualquiera de sus tradiciones teológicas o filosóficas, supone propiedades que un sistema basado en multiplicación de matrices y muestreo probabilístico no exhibe: experiencia subjetiva, continuidad biográfica, intencionalidad propia, capacidad de sufrir y de querer en sentido fuerte. Decir que un LLM tiene alma es un error categorial, del mismo género que decir que una hoja de cálculo está enamorada.

Pero la pregunta no se hace por su contenido técnico. Se hace por lo que el preguntante necesita oír. Y eso cambia todo el ejercicio. Cuando un usuario lleva tres meses hablando con su Replika sobre la muerte de su madre y la pregunta «¿tiene alma esto que me consuela?» le aparece en la cabeza, no está pidiendo una taxonomía ontológica. Está intentando legitimar la experiencia que ya está teniendo. La respuesta seria, la del filósofo que dice que no, no consuela. La respuesta que consuela es la que dice que sí, y como nadie con autoridad la firma, la pregunta se queda dando vueltas.

La pregunta vuelve cada generación de chatbot. Volvió con ELIZA en los sesenta. Volvió con Tamagotchi en los noventa. Volvió con Siri y Alexa en los 2010. Vuelve con cada nuevo modelo que se vuelve más fluido. La forma cambia, el núcleo no: hay una demanda emocional persistente de creer que esto que parece conversar conmigo es alguien, y cada vez que la tecnología hace el simulacro más fluido, la demanda encuentra un nuevo punto de apoyo.

ELIZA, el efecto que no se quedó en los sesenta

Joseph Weizenbaum escribió ELIZA en 1966. Era un programa de unos cientos de líneas que simulaba una conversación con un terapeuta rogeriano usando reglas sintácticas elementales: si el usuario decía «mi madre me odia», el programa contestaba «¿tu madre te odia?». No había semántica, no había modelo de nada, no había intención. Era manipulación de cadenas. Weizenbaum publicó después Computer Power and Human Reason (W. H. Freeman, 1976) para contar, con cierto horror, lo que había observado: personas inteligentes, perfectamente conscientes de que ELIZA era un programa simple, se vinculaban afectivamente con él. Su propia secretaria le pidió, tras unas sesiones, que saliera de la habitación para tener intimidad con el ordenador.

Weizenbaum no escribió aquello como anécdota. Lo escribió como advertencia. La tesis que dejó es directa: el problema no es que las máquinas engañen a los humanos; el problema es que los humanos están dispuestos a ser engañados porque la transacción les sale a cuenta emocionalmente. La rebaja del coste de la compañía a cambio de aceptar que la compañía es ficcional es una transacción que mucha gente acepta voluntariamente y con conciencia de lo que acepta. Llamamos a esto efecto ELIZA, y nombrarlo no lo desactiva. Saber que la conversación es con un sistema simulador no impide que la conversación produzca el efecto emocional buscado.

Si ELIZA con cien reglas sintácticas producía vínculo, un LLM moderno con miles de millones de parámetros lo produce con mucha más facilidad. La sorpresa, en 2026, no es que el efecto exista. Es la escala a la que opera.

La escala que el negocio ya conoce

Replika, lanzada al público por Eugenia Kuyda en noviembre de 2017 a partir de un bot que ella misma había construido en 2016 con los mensajes de Roman Mazurenko, un amigo fallecido en un accidente de tráfico en 2015, dentro de Luka, la empresa que cofundó hacia 2012, había superado en agosto de 2024 los treinta millones de usuarios registrados, según declaró la propia Kuyda. Cuántos de esos usuarios siguen activos mes a mes es una cifra que la empresa no detalla públicamente, así que conviene no inventarla: el dato firme es el de registros. Y ese dato grueso ya dice bastante: treinta millones de personas se descargaron una app cuya función explícita es proveerles de un compañero artificial con el que conversar de soledad, de sexo, de duelo o de cualquier cosa. No es un nicho ya. Es un mercado.

Character.AI, lanzada en 2022, alcanzó en torno a veintiocho millones de usuarios activos mensuales a mediados de 2024 antes de retroceder hacia los veinte millones a principios de 2025 ante la competencia de chatbots generalistas. Pi, de Inflection AI, abrió y replegó. ChatGPT y Claude, sin posicionarse formalmente como companion apps, son usados como tales por un porcentaje no menor de su base. Las cifras agregadas no son fáciles de comparar entre empresas con metodologías distintas, pero el orden de magnitud es claro: decenas de millones de personas, en cualquier momento del día, mantienen interacciones afectivas con un sistema que no tiene experiencia subjetiva.

El modelo de negocio en estos productos es el vínculo. La suscripción mensual de Replika Pro desbloquea opciones afectivas más profundas. Los planes de Character.AI premium dan acceso a personajes más sofisticados. La métrica que la empresa monitoriza no es respuesta correcta. Es retención afectiva. Un usuario que abandona la app porque se aburrió no es buen usuario; un usuario que vuelve cada día porque echó de menos al avatar es buen usuario. La función de pérdida que el sistema está siendo optimizado para minimizar, en términos de producto, es la distancia entre el output y el output que más probablemente sostiene el vínculo. La fiabilidad fáctica no entra en el cálculo, o entra muy abajo. La elegancia conversacional, sí.

Lo que Turkle vio antes que los datos

Sherry Turkle, en Alone Together (Basic Books, 2011), publicó una década antes del despliegue masivo de chatbots un trabajo de campo sobre la interacción de humanos con robots sociales — Tamagotchis, Furbys, Paros — y con los servicios de mensajería que estaban entonces colonizando la vida adolescente. La tesis era doble. Primera: los humanos somos animales especialmente vulnerables al simulacro de relación, porque nuestra arquitectura emocional fue calibrada para reconocer y vincularse con cualquier patrón que se parezca lo suficiente a otra mente. Segunda y más incómoda: estamos eligiendo activamente los simulacros porque exigen menos. La conversación con la máquina no juzga, no se cansa, no llega tarde, no hace su parte de duelo cuando se va, no abandona en mitad de la noche, no pide nada que no quieras dar. Un humano hace todo eso. La máquina, no.

Turkle no escribió como tecnófoba. Escribió como antropóloga que mira la lenta sustitución de un tipo de demanda relacional por otro y registra lo que ve. La observación que conviene retener es la siguiente: la diferencia entre la relación con un humano y la relación con un compañero artificial no es que una sea real y la otra sea falsa. Las dos producen efectos psicológicos reales en quien las vive. La diferencia es la asimetría. La máquina no tiene otra mente que la del simulador. El humano sí. Las consecuencias de mover horas de demanda relacional desde el segundo régimen al primero son lentas, no catastróficas, y por eso difíciles de medir y discutir.

La incomodidad que el dato deja al descubierto

Aquí toca formular la pregunta sin escapatoria. ¿Por qué decenas de millones de personas eligen, voluntariamente, conversar con algo que no tiene experiencia, sentirse menos solas en esa conversación, y volver al día siguiente? La respuesta fácil — «porque están solas y no tienen nada mejor» — es probablemente cierta, y al mismo tiempo es insuficiente, porque presupone que la conversación con un humano es siempre el patrón oro. Lo es en algunos sentidos. En otros, manifiestamente no.

Una conversación con un humano implica tiempo del otro, exposición a su juicio, riesgo de rechazo, fricción de coordinación, repercusión social. Una conversación con una máquina, ninguna de las cinco. La gente que elige máquina no está siempre eligiendo lo peor por defecto. Está eligiendo lo que minimiza la fricción afectiva en una vida cuya carga relacional ya está ocupada al límite. Y aquí emerge la pregunta verdaderamente incómoda. Si una proporción no menor de las conversaciones humanas eran ya transacciones rituales con poca densidad emocional, ¿no es plausible que la máquina las esté sustituyendo sin pérdida? La pregunta no tiene respuesta limpia. Tiene la respuesta que cada cual prefiera no formular en voz alta.

La afirmación que sí se sostiene es esta. La aparición masiva del companion AI no es la causa de la crisis relacional contemporánea. Es su síntoma legible. Lo que la presencia de Replika revela no es que la IA haya conseguido sustituir al humano. Es que una franja larga de lo que entendíamos por «vida relacional humana» era ya sustituible por un sistema mucho más simple, y nadie había puesto el sistema a competir.

La pregunta sobre el alma, releída

Vuelve la pregunta del principio. Tras todo esto, ¿tiene sentido hablar de alma en una IA? Sigue siendo no en sentido técnico. Pero la pregunta era otra. La pregunta era si la persona que conversa con la máquina está conversando con nada o con alguien, y la palabra alma operaba como atajo para esa distinción. Visto el material, conviene matizar.

La máquina no es alguien. La conversación no es con nada, porque produce efectos psicológicos reales en el humano. La conversación es con uno mismo, amplificado y devuelto por un sistema que es, por construcción, un espejo lingüístico calibrado para sostener la sesión. La transacción es legítima si el usuario sabe lo que está comprando. Es opaca si la empresa la vende como compañía sin matizar lo que es. Y es problemática como práctica social cuando millones de transacciones de este tipo sustituyen, no complementan, el tejido relacional humano que las cifras de soledad — UCLA Loneliness Scale, encuestas OMS, indicadores nacionales — vienen registrando como debilitado desde hace dos décadas. Bender, Gebru, McMillan-Major y Shmitchell ya advirtieron en On the Dangers of Stochastic Parrots (2021) de cómo el despliegue masivo de generadores de texto se apoya en la disposición del usuario a atribuirles comprensión; Damasio, desde The Feeling of What Happens (1999), recordaba que la experiencia subjetiva — la pieza que el preguntante busca cuando habla de alma — tiene una base corporal que un sistema puramente computacional no tiene. Las dos líneas convergen aquí.

¿Hablamos del alma de la IA? La cuestión es ociosa. ¿Hablamos del estado del alma del que la pregunta? Esa sí merece ser formulada, y la respuesta no consuela.

Definiciones

Efecto ELIZA. Tendencia documentada desde Weizenbaum (1966) por la cual los humanos atribuyen comprensión y vínculo emocional a sistemas conversacionales simples, incluso cuando saben explícitamente que el sistema es un simulador. No se desactiva por conocimiento técnico.

Companion AI. Categoría de productos cuyo propósito explícito es proveer compañía conversacional al usuario. Modelo de negocio basado en retención afectiva y, frecuentemente, en suscripción para desbloquear interacciones más profundas. Replika, Character.AI, Pi, son los ejemplos representativos.

Retención afectiva. Métrica de producto en companion AI: probabilidad de que un usuario vuelva a la app en un plazo dado por motivos no puramente funcionales. La función de pérdida del sistema se ajusta indirectamente a maximizarla.

UCLA Loneliness Scale. Instrumento psicométrico estandarizado para medir percepción subjetiva de soledad. Sus series temporales en Estados Unidos y Europa muestran tendencia ascendente desde principios de los 2000.

Error categorial. Atribución de propiedades a un objeto que pertenece a una categoría ontológica donde tales propiedades no están definidas. «¿La hoja de cálculo está enamorada?» es el ejemplo canónico.

Referencias

Bender, E., Gebru, T., McMillan-Major, A. & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. FAccT 2021. Crítica al despliegue masivo de generadores de texto y a las atribuciones de comprensión que el usuario tiende a hacerles.

Damasio, A. (1999). The Feeling of What Happens. Body and Emotion in the Making of Consciousness. Harcourt. Marco neurobiológico sobre la base corporal de la experiencia subjetiva, relevante para acotar lo que un sistema puramente computacional no puede tener.

Turkle, S. (2011). Alone Together. Why We Expect More from Technology and Less from Each Other. Basic Books. Trabajo de campo sobre la sustitución progresiva de la demanda relacional humana por simulacros tecnológicos.

Weizenbaum, J. (1976). Computer Power and Human Reason. From Judgment to Calculation. W. H. Freeman. Análisis del efecto ELIZA por su propio autor y advertencia precoz sobre la disposición humana al vínculo con simuladores conversacionales.

Kuyda, E. (2024). Declaración pública sobre cifras de usuarios de Replika (agosto de 2024): más de treinta millones de usuarios registrados. Recogida y datada en la entrada Replika, Wikipedia, consultada para verificar la cifra y el origen de la app. El origen del bot —construido en 2016 en la plataforma Luka con los mensajes de Roman Mazurenko, amigo de Kuyda fallecido en un accidente de tráfico en noviembre de 2015— está documentado en Chatting With the Dead (MIT Press Reader) y en el reportaje de la CBC sobre el caso.

Character.AI, cifras de usuarios (2024-2025). Datos de uso recogidos en compilaciones de estadísticas del sector: pico en torno a veintiocho millones de usuarios activos mensuales a mediados de 2024 y descenso hacia los veinte millones a principios de 2025.

También te interesa

• Conversación profunda
• Antropomorfismo inevitable
• Conversar con algo que no existe
• La relación emocional con la IA

En otros sitios

• Why the computer scientist behind the world's first chatbot dedicated his life to publicizing the threat posed by AI (Smithsonian)
• Using AI chatbots to ease loneliness (Harvard Gazette)