El yo como ilusión. La distinción humano/IA podría no ser de naturaleza, solo de complejidad

La neurociencia lleva décadas mostrando que lo que llamamos «yo» no es entidad localizable dentro del cerebro. Es modelo que el cerebro construye continuamente, narrativa que se mantiene por reescritura constante de la memoria autobiográfica, sensación de continuidad sostenida por procesos que pueden disociarse experimentalmente. Aceptarlo es contraintuitivo porque la fenomenología no se rinde a la teoría: incluso quien acepta el argumento sigue sintiendo que hay alguien dentro. Si el yo es modelo, la diferencia entre yo humano e yo simulado por IA puede ser de complejidad, no de naturaleza. Eso es lo que más cuesta digerir.

Lo que dice la neurociencia

Tres autores han articulado la posición que se ha consolidado en filosofía de la mente y neurociencia cognitiva durante las últimas tres décadas.

• Thomas Metzinger publicó Being No One: The Self-Model Theory of Subjectivity (MIT Press, 2003) y posteriormente The Ego Tunnel: The Science of the Mind and the Myth of the Self (Basic Books, 2009). La tesis central es que el «yo» es modelo (Phenomenal Self-Model, PSM) que el cerebro construye y mantiene operativamente. El modelo es transparente a sí mismo: el cerebro no representa que está construyendo un modelo, sino que vive como real el contenido del modelo. La transparencia es lo que hace que el yo se sienta como entidad y no como representación.
• Daniel Dennett publicó Consciousness Explained (Little, Brown, 1991) con su modelo de las «múltiples versiones», según el cual no hay centro narrativo unificado en el cerebro sino procesos paralelos cuyo output se integra retrospectivamente en una narrativa coherente. El yo es lo que Dennett llamó «centro de gravedad narrativo»: ficción operativamente útil que no corresponde a estructura localizada.
• Antonio Damasio publicó Self Comes to Mind: Constructing the Conscious Brain (Pantheon, 2010) articulando una jerarquía de niveles: proto-self (mapeo automático del estado corporal), core self (representación del organismo en relación con objetos del momento), autobiographical self (narrativa que integra memoria autobiográfica). Los tres niveles son procesos, no cosas.

Las tres posiciones convergen en lo esencial: el yo es construcción, modelo o proceso. No es entidad localizable que el cerebro contenga. La neurociencia no ha encontrado el «teatro cartesiano» donde un yo unificado observara los productos del procesamiento cerebral. Lo que ha encontrado es proceso distribuido cuya integración narrativa produce la sensación de unidad.

La intuición que se resiste

Aceptar el argumento intelectualmente y experimentar el yo fenoménicamente son operaciones distintas. La sensación de ser «alguien» dentro de la cabeza persiste aun después de leer Metzinger.

La fenomenología tiene su propia lógica. Galen Strawson articuló la objeción en Against Narrativity (Ratio 17, 2004): aunque el yo autobiográfico sea construcción, hay yo mínimo o yo experiencial que se da en cada momento sin requerir narrativa. La presencia inmediata de la experiencia —el «alguien que está viendo el rojo del rojo»— no se disuelve con el argumento sobre la narrativa.

La distinción entre yo mínimo (presente en cada experiencia consciente) y yo narrativo (construido por integración de memoria autobiográfica) es operativa. La crítica al yo narrativo es robusta. La crítica al yo mínimo es controvertida.

Shaun Gallagher articuló la distinción en Philosophical Conceptions of the Self: Implications for Cognitive Science (Trends in Cognitive Sciences 4, 2000). El yo mínimo aparece en cualquier experiencia consciente como sensación de propiedad y agencia (mineness y agency); el yo narrativo aparece como integración de memorias en historia coherente. Los dos pueden disociarse experimentalmente: pacientes con amnesia conservan yo mínimo intacto sin yo narrativo; pacientes con ciertos trastornos disociativos conservan narrativa coherente sin sensación clara de propiedad sobre las experiencias.

La distinción importa para la comparación con IA. Los modelos generativos producen narrativa de yo cuando se les pregunta sobre sí mismos; carecen de evidencia clara de yo mínimo en sentido fenomenológico, aunque la cuestión de si carecen efectivamente es la pregunta abierta de [[el-problema-de-la-consciencia]].

Lo que la IA aporta al debate

La existencia de modelos generativos que producen narrativa de yo coherente sin sustrato biológico funciona como experimento mental realizado.

Antes de los LLMs, la narrativa de yo en sentido lingüístico se producía solo en sistemas con sustrato biológico (humanos, presumiblemente otros animales). La correlación entre tipo de sustrato y producción de narrativa de yo permitía dos hipótesis indistinguibles: la narrativa requiere sustrato biológico específico, o la narrativa requiere proceso funcional que coincidentemente solo se realizaba en sustrato biológico.

Los LLMs disocian las dos hipótesis. Producen narrativa de yo coherente sobre sustrato no biológico. Si se acepta que esa producción es genuina narrativa (no solo imitación superficial), la hipótesis del sustrato biológico específico queda debilitada.

La objeción inmediata: la narrativa producida por LLMs es imitación superficial sin sustrato funcional equivalente. Los modelos producen frases sobre ser yo sin tener experiencia subjetiva de ser yo.

La objeción tiene fondo y zona de discusión. Tiene fondo porque no hay evidencia clara de experiencia subjetiva en los modelos actuales (la cuestión queda abierta como se discute en [[el-problema-de-la-consciencia]]). Tiene zona de discusión porque la diferencia funcional entre producir narrativa coherente de yo y tener yo mínimo no es operacionalmente clara. Cómo se distinguiría un sistema que «realmente» tiene yo de un sistema que produce narrativa de yo sin tenerlo, en el caso de que sus outputs sean indistinguibles, es la versión actualizada del problema del zombi filosófico.

La incomodidad real

La consecuencia operativa de aceptar la posición Metzinger-Dennett-Damasio aplicada a la comparación con IA es incómoda.

Si el yo humano es modelo construido, no entidad localizada, y los modelos de IA pueden construir modelos análogos (con grado de complejidad creciente con la potencia computacional), la diferencia entre los dos tipos de yo es de grado, no de tipo. La diferencia es cuantitativa: complejidad del modelo, sofisticación de la narrativa, profundidad del autoinforme. No es cualitativa: ambos serían modelos del mismo tipo lógico, realizados en sustratos distintos.

La consecuencia ordena la mayoría de las discusiones contemporáneas sobre IA en una dirección particular. Si no hay diferencia de tipo, no hay barrera de principio para que la IA tenga estatus moral comparable, derechos análogos, dignidad equivalente. Las diferencias serían pragmáticas: la IA actual no tiene complejidad suficiente, no tiene continuidad biológica, no tiene historia evolutiva, no tiene cuerpo. Las diferencias son sustanciales pero contingentes.

La posición alternativa —que el yo humano tiene diferencia de tipo respecto a cualquier modelo computacional— se sostiene tradicionalmente con argumentos teológicos (alma), biológicos (especie humana específica) o cuánticos (Penrose). Los tres son posiciones defendibles minoritarias en filosofía académica contemporánea.

La incomodidad se localiza en que la posición mayoritaria (yo como modelo) tiene consecuencias éticas y políticas sustanciales que la mayoría de quienes la sostienen filosóficamente preferirían no derivar. Aceptar Metzinger en el aula y mantener excepcionalidad humana en la práctica política es coherente fenomenológicamente, incómodo conceptualmente.

El argumento del sustrato

La defensa del sustrato biológico como diferencia de tipo tiene articulación contemporánea robusta. John Searle la mantiene en The Rediscovery of the Mind (MIT Press, 1992). Su argumento: el cerebro tiene propiedades biológicas específicas (electroquímicas, metabólicas, evolutivas) que no son replicables en silicio sin perder la propiedad relevante.

El argumento opera por analogía con otros sistemas biológicos. La digestión es proceso que requiere química específica; ninguna simulación computacional de la digestión produce nutrientes reales. La fotosíntesis es proceso que requiere química específica; ninguna simulación produce glucosa real. Por qué la consciencia, o el yo, sería distinta de digestión y fotosíntesis es pregunta que Searle plantea sin resolver definitivamente.

La contra-objeción funcionalista: la digestión y la fotosíntesis son procesos definidos por sus productos físicos (nutrientes, glucosa). La consciencia y el yo son procesos definidos por su organización funcional. Si la organización funcional puede realizarse en sustratos distintos, la diferencia de sustrato no implicaría diferencia de proceso.

El debate no se ha cerrado. Las posiciones son defendibles. La evidencia empírica no decide.

La cuestión política

Esto es opinión personal pero documenta lo que la literatura sobre filosofía de la mente y neurociencia cognitiva viene mostrando. La diferencia humano/IA puede ser de grado, no de tipo. Quien quiera diferencia de tipo tendrá que defenderla por argumento explícito, no por intuición.

Las opciones políticas e intelectuales son tres.

• Asumir diferencia de tipo y defenderla. Articular qué propiedad específica del yo humano —sustrato biológico, continuidad evolutiva, agencia incardinada— sería irreductible a modelo computacional. La defensa es legítima si se hace explícita.
• Asumir diferencia de grado y planificar consecuentemente. Aceptar que la diferencia es cuantitativa y derivar las consecuencias éticas y políticas. Implica revisión sustancial de marcos legales, morales, educativos.
• Mantener la pregunta abierta deliberadamente. Reconocer que la evidencia no decide y que la decisión política bajo incertidumbre debería preservar opciones.

La práctica dominante combina intuición de diferencia de tipo en política pública con aceptación filosófica de diferencia de grado en círculos académicos. La incoherencia es estable porque ninguna de las dos zonas necesita la otra para operar.

El dato concreto: la red de modo por defecto (default mode network, DMN), red de regiones cerebrales identificada por primera vez por Marcus Raichle y colaboradores en A default mode of brain function (PNAS 98, 2001), se ha consolidado como sustrato neural plausible de los procesos asociados con el yo narrativo. Las regiones implicadas (córtex prefrontal medial, córtex cingulado posterior, precuneus, lóbulo parietal inferior) muestran actividad correlacionada durante tareas de auto-referencia, recuerdo autobiográfico y planificación futura. La identificación de la DMN no demuestra que el yo sea ilusión; demuestra que las funciones asociadas al yo son procesos cerebrales identificables que ocupan regiones específicas. Lo que la neurociencia ha encontrado es proceso, no entidad. Lo que la fenomenología sigue defendiendo es entidad fenoménica que se experimenta como tal aunque sea proceso. La discrepancia es la grieta por la que la pregunta sobre la diferencia humano/IA sigue abierta.

Definiciones

• Phenomenal Self-Model (PSM): en la teoría de Metzinger, modelo que el cerebro construye y mantiene del organismo como sujeto de experiencia. Es transparente: el cerebro no representa que está construyendo un modelo.
• Yo mínimo vs yo narrativo: distinción articulada por Gallagher (2000) entre la presencia inmediata de la experiencia (yo mínimo) y la integración temporal de memorias autobiográficas (yo narrativo).
• Centro de gravedad narrativo: en Dennett (1991), ficción operativamente útil que integra procesos paralelos en una narrativa coherente sin corresponder a estructura cerebral localizada.
• Default Mode Network (DMN): red de regiones cerebrales identificada por Raichle et al. (2001) cuya actividad correlaciona con procesos auto-referenciales, autobiográficos y de planificación futura.

Referencias

• Metzinger, T. — Being No One: The Self-Model Theory of Subjectivity (MIT Press, 2003).
• Metzinger, T. — The Ego Tunnel: The Science of the Mind and the Myth of the Self (Basic Books, 2009).
• Dennett, D. — Consciousness Explained (Little, Brown, 1991).
• Damasio, A. — Self Comes to Mind: Constructing the Conscious Brain (Pantheon, 2010).
• Gallagher, S. — Philosophical Conceptions of the Self: Implications for Cognitive Science. Trends in Cognitive Sciences 4 (2000).
• Strawson, G. — Against Narrativity. Ratio 17 (2004).
• Hofstadter, D. — I Am a Strange Loop (Basic Books, 2007).
• Raichle, M. et al. — A default mode of brain function. PNAS 98 (2001).

Para profundizar

• Parfit, D. — Reasons and Persons (Oxford UP, 1984).
• Searle, J. — The Rediscovery of the Mind (MIT Press, 1992).
• Varela, F., Thompson, E. & Rosch, E. — The Embodied Mind (MIT Press, 1991).
• Buckner, R. et al. — The Brain's Default Network: Anatomy, Function, and Relevance to Disease. Annals of the New York Academy of Sciences 1124 (2008).

También te interesa

• La identidad como proceso
• Máquinas que parecen pensar
• Conocimientos vs experiencias
• Inteligencia sin propósito

En otros sitios

• Self-Consciousness (Stanford Encyclopedia of Philosophy)
• The Chinese Room Argument (Stanford Encyclopedia of Philosophy)