Geoffrey Hinton y su no arrepentimiento de la IA

Cuando Geoffrey Hinton dejó Google en mayo de 2023, la prensa española lo despachó con un titular: «el padrino de la IA se arrepiente». Fui a buscar la frase que supuestamente lo demostraba y me llevé una sorpresa boba: no existe. Lo que existe es algo más incómodo, menos cinematográfico, y que casi nadie se molestó en citar entero.

La cita que cualquiera puede comprobar

Empiezo por donde se puede comprobar, que en este oficio es lo decente. Hinton —uno de los padres del aprendizaje profundo, premio Turing 2018— dejó Google a los setenta y cinco años, y lo hizo a la vista de todos, en una entrevista con el New York Times que firmó Cade Metz y que el periódico publicó el 1 de mayo de 2023. Está en el archivo del NYT, detrás de muro de pago, accesible con suscripción o desde una biblioteca universitaria. Quien quiera ir a la fuente la tiene ahí, con fecha y firma. No hace falta fiarse de mí.

A Metz le dijo esto: «La idea de que esto pudiera realmente volverse más listo que las personas —un par de personas se lo creían. Pero la mayoría pensábamos que estaba muy lejos. Yo pensaba que faltaban treinta o cincuenta años, o incluso más. Obviamente, ya no pienso eso».

Esa es la frase que se tradujo como arrepentimiento. Conviene leerla otra vez, despacio, porque no contiene ni una palabra de culpa ni una sola referencia a medio siglo de trabajo que ahora lamentaría. Hay un hombre corrigiendo una estimación: pensaba que la cosa tardaría décadas y ha resultado que no. Convertir eso en «arrepentimiento» es preferir el titular que vende al que es cierto, una sustitución barata que cuesta poco y rinde mucho en clics. Y el plazo que Hinton corrigió no es un detalle de calendario: es la variable de la que cuelga cualquier decisión política sobre regular esto, porque no se legisla igual contra un problema que llega en cincuenta años que contra uno que asoma en cinco.

La cronología honesta

Hinton lleva más de medio siglo metido en las redes neuronales. Empezó en los años setenta, cuando buena parte de la comunidad de inteligencia artificial las daba por un callejón sin salida, y siguió ahí en los ochenta, cuando casi nadie las financiaba. Codesarrolló el algoritmo de retropropagación junto a David Rumelhart y Ronald Williams. En 2012, su grupo de Toronto —con Alex Krizhevsky e Ilya Sutskever— presentó AlexNet, la red que ganó la competición ImageNet y partió en dos la historia de la visión por computador. Antes de aquello, las redes profundas eran una promesa de departamento universitario que costaba defender en un comité de tesis. Después, eran un negocio que se compraba a precio de subasta.

Google se lo llevó en marzo de 2013, al adquirir DNNresearch, la pequeña empresa que Hinton había montado el año anterior con Krizhevsky y Sutskever a raíz del triunfo en ImageNet. Trabajó allí una década, repartiendo el tiempo entre Toronto y la compañía, hasta esa salida de mayo de 2023.

Vale la pena fijarse en lo que esta cronología descarta. La salida no fue el desengaño tardío de quien mira atrás y reniega de su obra; fue una reacción a algo muy reciente. Entre 2022 y 2023, la mejora de los grandes modelos de lenguaje —GPT-3.5, ChatGPT, GPT-4— corrió más rápido de lo que él había anticipado, y lo que situaba a treinta o cincuenta años empezó a parecer cosa de menos de diez. La recalibración que tanto le costaba digerir venía de los datos que tenía delante, no de un examen de conciencia.

¿Por qué irse de Google para decir eso? Hinton fue claro, y aquí la traducción importa porque ha circulado deformada. En el tuit que publicó el 1 de mayo de 2023 escribió, literalmente: «Me fui para poder hablar de los peligros de la IA sin tener en cuenta cómo afecta esto a Google. Google se ha comportado de manera muy responsable». No dijo que se iba a «hablar libremente», como si le hubieran amordazado; eso es la paráfrasis que después se le coló a media prensa. Dijo que se iba para no tener que medir el impacto de sus palabras sobre su empleador, mientras cobrara de él. Y de paso defendió a ese empleador, lo que estropea cualquier relato que necesite un villano corporativo. El matiz se evapora en cuanto alguien prefiere la versión con malo de película.

El argumento que va por otro lado

Lo que Hinton sostiene desde 2023, y ha repetido en docenas de intervenciones, no cabe en la palabra «arrepentimiento». Empieza por una ventaja que él considera estructural y no retórica: los sistemas digitales pueden copiarse y fusionar lo aprendido. Si dos instancias del mismo modelo aprenden cosas distintas, se intercambian los pesos y comparten el conocimiento de golpe, sin clases, sin lectura, sin años de por medio. Un cerebro biológico no puede hacer eso; tú no puedes volcarme lo que sabes abriéndome la cabeza. Hinton ve ahí una ventaja de lo digital sobre lo biológico, y la describe como ingeniero que sabe exactamente qué arquitectura permite ese volcado, no como divulgador que estira una metáfora hasta que se rompe.

Luego está el alineamiento. Conseguir que un sistema persiga lo que de verdad queremos, y no su propia lectura de lo que cree que queremos, sigue sin resolverse, y nada garantiza que se resuelva antes de que aparezcan sistemas por encima del nivel humano. Para Hinton eso es un problema de ingeniería abierto, con la incomodidad añadida de que la velocidad a la que se despliegan los modelos va por delante de la velocidad a la que el problema se resuelve.

Y aquí viene el matiz que la prensa borró sin pestañear. Para Hinton el peligro más cercano no es la superinteligencia rebelde de las películas, sino el uso de la IA por malos actores: estados, mafias y grupos extremistas empleándola para manipulación masiva, ciberataques, armas autónomas, desinformación dirigida. Eso no es un riesgo que haya que imaginar para dentro de una década. Ya está pasando. Que su posición más polémica dentro del sector acabe siendo también la más citada fuera de contexto dice bastante sobre cómo se cocina la noticia tecnológica.

Lo que no llegó a decir

Conviene ser igual de preciso con los límites de lo que el hombre afirmó, porque ahí la traducción mediática hizo el daño más fino.

No dijo que la IA actual sea consciente; eso se lo colgaron. Ha llegado a sostener que algunos modelos «entienden» en algún sentido del verbo, pero separa con cuidado entender de ser consciente, y sobre la conciencia reconoce no tener una posición clara. Lo reconoce él, en sus propias palabras, no lo deduzco yo de un silencio que me convenga.

Tampoco anunció un apocalipsis inminente. Lo que ha manejado son probabilidades, no profecías: del orden de un 10 a un 20 por ciento, según la entrevista, de que sistemas más listos que nosotros lleguen a ser un riesgo serio para la humanidad. Él mismo describe esa cifra como una intuición y no como un cálculo, y reconoce que estimar estas cosas es muy difícil. Una probabilidad del 10 al 20 por ciento, dicho sea sin alivio barato, deja un 80 o 90 por ciento de escenarios en los que no pasa nada parecido a una catástrofe; lo cual no es lo mismo que tranquilizar, porque pocos subiríamos a un avión con esa hoja de probabilidades.

Y no pidió frenar la investigación entera. Pidió pausar el trabajo en sistemas frontera mientras se avanza en alineamiento, que es una petición mucho más estrecha. La IA aplicada a medicina, a ciencia básica, a eficiencia energética, la defiende sin titubeos. Su crítica es técnica y acotada: hay un problema sin resolver y se está corriendo por delante de él. Llamar luddismo a eso es no haberse leído la frase, o haberla leído con el titular ya escrito.

Estas precisiones no son quisquillosas de erudito ocioso. El titular —«el padrino se arrepiente»— invita a archivar a Hinton entre los catastrofistas de oficio, y la versión completa de lo que dice no entra en ese cajón ni a empujones. Por eso, sospecho, la versión completa apenas se cita.

El Nobel de Física, y un discurso que delata al personaje

El 8 de octubre de 2024 el Comité Nobel concedió el Premio Nobel de Física a John Hopfield y a Geoffrey Hinton «por descubrimientos e invenciones fundamentales que permiten el aprendizaje automático con redes neuronales artificiales». Hopfield había desarrollado en los años ochenta las redes asociativas que llevan su nombre; Hinton, con Terrence Sejnowski, extendió aquel trabajo con las máquinas de Boltzmann. El premio reconocía cuatro décadas de física de redes neuronales, no la actualidad mediática del personaje.

Lo que más me interesa del episodio es el discurso. Hinton dio su lectura Nobel en el Aula Magna de la Universidad de Estocolmo el 8 de diciembre de 2024, la tituló Boltzmann Machines y la abrió así: «Hoy voy a hacer algo muy tonto: voy a intentar describir una idea técnica complicada a un público general, sin usar ninguna ecuación». Ahí está el hombre entero, en una sola frase de apertura. Un científico que decide hablarle al público con honestidad técnica, que no se escuda detrás de las matemáticas para impresionar, que da por hecho que quien le escucha puede seguirle si él se molesta en explicarse. La lectura se publicó después en Reviews of Modern Physics, la revista de la American Physical Society, en agosto de 2025. En ella recordó cómo Sejnowski y él dieron con un uso inesperado de las redes de Hopfield: en lugar de guardar memorias, usarlas para construir interpretaciones de la entrada sensorial. De ahí salieron las máquinas de Boltzmann, y de ahí, en buena parte, el aprendizaje profundo que hoy mueve miles de millones.

Lo raro del cuadro es el solapamiento de los dos papeles. Un Nobel que premia a uno de los fundadores de un campo justo en el momento en que ese fundador se ha convertido en su crítico más autorizado. No abundan las figuras así, capaces de firmar el cimiento y la advertencia con la misma mano. Oppenheimer, Joseph Rotblat. Pocos más, y ninguno cómodo de tener en la mesa.

Por qué cambia quién hace la advertencia

Detenerse en quién firma la advertencia no es un argumento de autoridad disfrazado, sino una manera de calibrar cuánto pesa. Hinton sabe técnicamente de qué habla; no es un recién llegado que aprendió IA hace tres veranos para vender una charla en un hotel de congresos. Cuando afirma que un sistema puede compartir conocimiento entre instancias, no habla por analogía sino por arquitectura, porque ha diseñado piezas de esa arquitectura. Y, a diferencia de los directivos que también advierten de riesgos mientras levantan rondas de financiación para venderte el remedio, él no tiene nada que colocar: salió de Google, cobra su pensión, tiene el Nobel, no administra un fondo ni firma superventas de aeropuerto. Lo que dice no responde a una expectativa de retorno, y en este negocio eso es casi una excentricidad.

Queda lo principal, que es la forma exacta de su posición, y conviene sostenerla en sus términos y no en los del titular. Riesgo real pero no inminente. Probabilidad significativa pero lejos de la certeza. Regulación necesaria sin frenar toda la investigación. Una postura así no se deja reducir ni al optimismo de catálogo de Silicon Valley ni al alarmismo de hilo viral, y existe alguien con credenciales para defenderla sin coartada. El problema es que sostenerla pide lectores que la sigan en su versión larga, no en su recorte. La entrevista del NYT está entera; las conversaciones donde ha intervenido están grabadas y datadas; el discurso Nobel está publicado en una revista revisada por pares. Distinguir entre lo que Hinton dijo y lo que le atribuyeron no cuesta más que ir a la fuente. Que el ecosistema mediático en español, con sus excepciones honrosas, no se haya tomado esa molestia no es un fallo de acceso. Es un fallo de ganas.

Definiciones

Geoffrey Hinton: investigador británico-canadiense, nacido en 1947, profesor emérito de la Universidad de Toronto, considerado uno de los padres del aprendizaje profundo moderno.

Premio Turing: galardón anual de la ACM, tenido por el equivalente al Nobel en informática. Hinton lo recibió en 2018 junto a Yoshua Bengio y Yann LeCun.

Aprendizaje profundo (deep learning): familia de técnicas de aprendizaje automático basada en redes neuronales con muchas capas, capaz de aprender representaciones complejas a partir de grandes cantidades de datos.

Retropropagación: algoritmo que permite entrenar una red neuronal ajustando sus pesos en función del error de salida. Hinton fue uno de sus autores fundamentales, junto a David Rumelhart y Ronald Williams.

Máquina de Boltzmann: tipo de red neuronal estocástica desarrollada por Hinton y Sejnowski en los años ochenta, base del trabajo reconocido por el Nobel.

AlexNet: red neuronal convolucional desarrollada por Alex Krizhevsky, Ilya Sutskever y Geoffrey Hinton en 2012, ganadora de la competición ImageNet y detonante de la era moderna del aprendizaje profundo.

Alineamiento: problema técnico de lograr que un sistema de IA persiga objetivos que coincidan con los del operador humano. Considerado un problema abierto.

Referencias

Metz, C. — The Godfather of A.I. Leaves Google and Warns of Danger Ahead, The New York Times, 1 de mayo de 2023. Entrevista de la que procede la cita sobre la recalibración de plazos.

Hinton, G. — Tuit del 1 de mayo de 2023 (x.com/geoffreyhinton/status/1652993570721210372), donde aclara los motivos de su salida de Google. Texto original: «I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly».

MIT Technology Review — Geoffrey Hinton tells us why he's now scared of the tech he helped build, 2 de mayo de 2023, cobertura de su salida y de sus advertencias.

CNN Business — AI pioneer Geoffrey Hinton quits Google to warn about the technology's dangers, 1 de mayo de 2023, donde se recoge que abandonó Google para poder hablar de los riesgos de la IA.

TechCrunch — Google Scoops Up Neural Networks Startup DNNresearch, 12 de marzo de 2013, sobre la adquisición de la empresa fundada por Hinton, Krizhevsky y Sutskever.

The Guardian — declaraciones de Hinton estimando entre un 10 y un 20 por ciento la probabilidad de que la IA derive en un riesgo grave para la humanidad (cobertura de diciembre de 2024).

NobelPrize.org — comunicado oficial del Premio Nobel de Física 2024 a John Hopfield y Geoffrey Hinton, 8 de octubre de 2024.

Hinton, G. — Nobel Lecture: Boltzmann Machines, lectura Nobel pronunciada el 8 de diciembre de 2024 en el Aula Magna de la Universidad de Estocolmo, publicada en Reviews of Modern Physics (RevModPhys.97.030502), agosto de 2025.

Russell, S. — Human Compatible (Viking, 2019), sobre el problema del control y el alineamiento.

Christian, B. — The Alignment Problem (Norton, 2020), panorámica del problema del alineamiento citado en el artículo.

También te interesa

• Timnit Gebru y su salida de Google
• Los verdaderos peligros de la IA
• La credibilidad real de Sam Altman
• "Todo lo que necesitas es atención", el paper que cambió la IA

En otros sitios

• Introductory Resources on AI Risks (Future of Life Institute)
• AI: A Guide for Thinking Humans (Melanie Mitchell)