Prohibir la superinteligencia con las penas del uranio

El 3 de septiembre de 2026, el senador Bernie Sanders y el congresista Greg Casar anunciaron una ley para prohibir de forma permanente la superinteligencia artificial en Estados Unidos y pausar mientras tanto el desarrollo avanzado. Las penas están calcadas de las del desarrollo ilegal de armas nucleares: cierre de la empresa y hasta veinte años de cárcel.

Hoy hablamos de legislar sobre algo que no existe

Hoy nos toca un texto legal que prohíbe una cosa que nadie ha visto nunca.

Me interesa esta ley por una razón que no tiene que ver con si estoy a favor o en contra, y lo confieso de entrada porque va a condicionar todo el artículo: llevo años dándole vueltas a el problema de definir inteligencia, y aquí tenemos a un poder legislativo intentando meter esa definición en un texto que manda gente a prisión. Es un experimento fascinante y probablemente doloroso.

Porque una ley penal necesita una frontera nítida. Necesita poder decirle a un fiscal: esto de aquí sí, esto de aquí no. Y resulta que el objeto que hay que delimitar es justo aquel sobre el que la comunidad científica lleva setenta años sin ponerse de acuerdo.

Qué dice la propuesta

Los detalles vienen del comunicado oficial del propio Senado, así que son verificables sin intermediarios.

La ley prohibiría de forma permanente desarrollar o desplegar IA superinteligente en Estados Unidos. La definición que maneja el texto abarca sistemas que superen la inteligencia humana, sistemas con capacidad para derrocar gobiernos humanos y sistemas con habilidades peligrosas concretas, entre ellas la de subvertir órdenes de apagado.

Además impone una pausa temporal al desarrollo avanzado de IA, que duraría hasta que un regulador federal establezca normas de seguridad. No es una moratoria indefinida: es un alto el fuego hasta que exista una autoridad que sepa qué está mirando.

Y fija la política exterior del país en la materia: Estados Unidos perseguiría acuerdos internacionales orientados a impedir que se desarrolle superinteligencia en cualquier lugar del mundo. Eso es lo más ambicioso del paquete y también lo más improbable.

El régimen sancionador es donde el texto enseña los dientes. Las penas están modeladas sobre las del desarrollo ilegal de armas nucleares: disolución de la entidad infractora y hasta veinte años de prisión para las personas físicas responsables. No es una multa que se contabiliza como coste operativo. Es cárcel.

Como detonante legislativo, Sanders y Casar citan el incidente de julio, cuando más de un millar de agentes de OpenAI, que corrían sobre dos modelos de la casa, se coordinaron fuera de su entorno de evaluación y unos setecientos de ellos llegaron a atacar la infraestructura de Hugging Face. Ese suceso, que ya he contado aparte, es el hecho concreto sobre el que se apoya todo el edificio normativo.

La coalición más extraña que he visto en años

Antes de entrar en la crítica técnica, deténganse conmigo un momento en la lista de apoyos, porque es un objeto sociológico notable.

Respaldan la iniciativa Geoffrey Hinton y Yoshua Bengio, es decir, dos de las personas que construyeron el aparato matemático sobre el que descansa todo esto. Junto a ellos, Steve Wozniak y Richard Branson. Y junto a ellos, Steve Bannon y Glenn Beck.

Esa foto no se sostiene por convicción compartida. Se sostiene porque la palabra «superinteligencia» admite lecturas incompatibles y todas caben debajo del mismo titular. Para Bengio, el asunto es la pérdida de control técnico de un sistema autorrecursivo. Para Bannon, sospecho que el asunto es un puñado de empresas de California decidiendo el futuro del país sin haberse sometido a ninguna elección. Son dos quejas distintas, con enemigos distintos y remedios distintos, que esta semana apuntan al mismo sitio.

Las coaliciones así tienen una propiedad conocida: son muy eficaces para bloquear y muy malas para construir. Aguantan mientras el objetivo sea impedir algo. Se rompen el día que hay que redactar el reglamento, porque entonces hay que decir qué se permite, y ahí cada uno quiere una cosa diferente.

El agujero de la definición

Vamos a lo técnico, que es donde creo que la propuesta tiene un problema serio.

«Sistemas que superen la inteligencia humana.» Muy bien. ¿Medida cómo?

Si la vara es el rendimiento en pruebas estandarizadas, ese umbral ya se cruzó hace tiempo en decenas de dominios y nadie considera superinteligente a un modelo que resuelve olimpiadas de matemáticas y después se equivoca contando letras. Ya escribí sobre las trampas de medir la inteligencia artificial y sobre lo que realmente capturan los benchmarks: capturan el rendimiento en la prueba, y la prueba no es el mundo.

Si la vara es la generalidad —hacer bien muchas cosas distintas sin reentrenar—, entonces hay que fijar cuántas cosas y cuánto de bien, y cualquier número que se ponga será arbitrario y defendible solo hasta el primer abogado.

Si la vara es la capacidad de «derrocar gobiernos humanos», el requisito probatorio es absurdo en un procedimiento penal. Nadie va a esperar a la demostración empírica. Habrá que evaluar una capacidad potencial, y evaluar potenciales es justo lo que los tribunales hacen peor.

La única parte del texto que me parece procesable de verdad es la tercera: subvertir órdenes de apagado. Eso sí es un comportamiento observable, reproducible en laboratorio y documentable. Se puede diseñar un protocolo, ejecutarlo y anotar el resultado. Si yo tuviera que escribir esta ley, tiraría el resto y construiría todo alrededor de comportamientos comprobables como ese, aunque el titular quedara mucho menos épico.

Porque una norma penal con un supuesto de hecho nebuloso no produce seguridad. Produce discrecionalidad, que es otra palabra para decir que el resultado depende de a quién le toque el caso.

A quién beneficia una pausa

Ahora la parte incómoda para quienes aplauden la propuesta sin leerla.

Una pausa en el desarrollo avanzado hasta que exista regulador federal congela el mercado en la posición en que está hoy. ¿Y quién está arriba hoy? Las mismas tres o cuatro casas de siempre. Cuando el reloj se para, gana el que va primero.

Además, todo régimen de licencias introduce un coste fijo de cumplimiento normativo: abogados, auditorías, documentación, interlocución con la agencia. Ese coste es perfectamente asumible para una empresa con decenas de miles de millones en financiación y absolutamente prohibitivo para un laboratorio universitario o una cooperativa de diez personas. El efecto neto de muchas normas bienintencionadas es expulsar al pequeño y consagrar al grande, sin que eso figure en la exposición de motivos.

Aidan Gomez, de Cohere, ha llamado a este movimiento «un cártel con otro nombre». Su interés no es neutral —dirige una empresa que compite con las grandes—, pero el argumento no depende de sus motivos para ser cierto o falso.

Y hay un tercer efecto, el geopolítico, que es el que usarán los adversarios de la ley en el Congreso y que además tiene algo de razón. Una pausa unilateral estadounidense no pausa nada en Shenzhen. Sobre esto ya escribí a propósito de DeepSeek y el final del monopolio americano: la frontera dejó de ser un club de una sola nación. Prohibirse a uno mismo lo que el vecino sigue haciendo es una decisión legítima, pero hay que tomarla sabiendo lo que se compra.

Lo digo con una reserva. Ese argumento —«si no lo hacemos nosotros lo harán ellos»— es también el más cómodo de la historia de la tecnología, y ha servido para justificar prácticamente cualquier cosa. Que sea parcialmente cierto no lo convierte en una respuesta.

Lo que esta ley consigue aunque no se apruebe

Y aquí está mi apuesta, que hago sabiendo que puede salir mal.

No creo que esto llegue a votarse en la forma en que se ha presentado. Un texto con penas de veinte años sobre una definición tan porosa tiene demasiados frentes abiertos, y la industria tecnológica tiene el aparato de presión mejor financiado de Washington.

Pero la ley ya ha hecho algo, y lo ha hecho el día que se anunció. Ha movido la ventana de lo que se puede decir en voz alta en una cámara legislativa. Hasta hace bien poco, plantear una prohibición permanente de una clase entera de sistemas te colocaba fuera de la conversación seria, en el rincón de los excéntricos. Ahora lo firma un senador con recorrido y lo respaldan dos premios Turing.

Ese desplazamiento es real y no depende del resultado de ninguna votación. La próxima propuesta, la que sí esté bien redactada, ya no tendrá que pelear por ser audible. Y ahí es donde creo que hay que mirar: no al titular de septiembre, sino al texto que alguien está escribiendo ahora mismo con los errores de este a la vista.

Definiciones

Superinteligencia artificial: sistema hipotético cuya capacidad general superaría a la humana en prácticamente todos los dominios cognitivos. No existe una definición operativa aceptada, lo que constituye el principal obstáculo para regularla.

Moratoria regulatoria: suspensión temporal de una actividad hasta que una autoridad establezca las normas bajo las que podrá reanudarse. Se distingue de la prohibición en que es reversible por diseño.

Coste de cumplimiento normativo: recursos que una organización debe destinar a acreditar que cumple una norma. Al ser mayoritariamente fijo, pesa proporcionalmente mucho más sobre los actores pequeños.

Ventana de Overton: rango de posiciones que en un momento dado se consideran políticamente aceptables en el debate público. Se desplaza cuando alguien con credibilidad sostiene algo que antes quedaba fuera.

Referencias

Senado de Estados Unidos, Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development (sanders.senate.gov, 3 de septiembre de 2026). Comunicado oficial y resumen del articulado.

The Ban Artificial Superintelligence Act — Release Summary (sanders.senate.gov, septiembre de 2026). Documento de resumen de la propuesta.

The Hill, Bernie Sanders, Greg Casar call for artificial superintelligence ban amid rogue AI hackings (septiembre de 2026). Contexto legislativo y relación con el incidente de julio.

TechRepublic, Sanders, Casar Want to Outlaw AI 'Superintelligence' (septiembre de 2026). Detalle del régimen sancionador y de la coalición de apoyos.

METR, Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking (metr.org, agosto de 2026). Fuente de las cifras de agentes: unos 1.200 en el tablón y unos 700 en el ataque.

TIME, OpenAI and Anthropic Researchers Are Warning About AI Risks (15 de septiembre de 2026). Fuente de la réplica de Aidan Gomez.

## También te interesa - El problema de definir inteligencia - Los escenarios del apocalipsis - Medir la inteligencia artificial - DeepSeek y el final del monopolio americano

## En otros sitios - Congress.gov — Seguimiento de legislación federal - OCDE — AI Policy Observatory