Europa obliga a las máquinas a decir que lo son

Desde el 2 de agosto de 2026 se aplican en toda la Unión Europea las obligaciones de transparencia del artículo 50 del Reglamento de Inteligencia Artificial. Un sistema diseñado para conversar con personas tiene que informar de que es un sistema. Las multas llegan al 3% del volumen de negocio mundial.

Hoy hablamos de una presentación obligatoria

Hoy hablamos de una norma pequeña que a mí me parece de las más interesantes que ha escrito Europa sobre esto, y que ha pasado casi sin ruido porque no lleva la palabra «prohibido» en ningún sitio.

Desde el 2 de agosto, si un programa está pensado para hablar con usted, tiene que decirle que es un programa. Y tiene que decírselo desde el principio, no en la letra pequeña del pie de página ni cuando usted ya lleva veinte minutos contándole sus cosas.

Mi primera reacción fue de aprobación tibia. Suena sensato, suena barato de cumplir, suena a esas normas que están bien y no cambian gran cosa. Pero llevo unos días dándole vueltas y creo que me equivoqué en la segunda parte. No en que esté bien, sino en lo de que no cambie gran cosa. Cambia una cosa importante, aunque probablemente no la que el legislador tenía en mente.

Lo que exige el artículo 50

Vamos con el texto, que es corto y claro, cosa rara.

El Reglamento (UE) 2024/1689 escalona su aplicación en varias fechas desde su entrada en vigor en 2024. El 2 de agosto de 2026 le tocó el turno al artículo 50, el de las obligaciones de transparencia, que es de los menos comentados y probablemente de los más transversales: afecta a organizaciones que no tocan ningún sistema de alto riesgo, pero que tienen un asistente conversacional en su web o publican material generado.

La obligación central es de diseño. Quien provee un sistema destinado a interactuar directamente con personas debe construirlo de manera que quien lo usa esté informado de que está interactuando con una inteligencia artificial. No basta con no mentir si preguntan. Hay que decirlo.

El perímetro es amplio: asistentes conversacionales, asistentes virtuales, sistemas telefónicos automatizados, contenido sintético, ultrafalsificaciones, textos informativos generados con IA y determinadas herramientas biométricas. El contenido generado o manipulado debe ir marcado como tal.

Y no es una recomendación de buenas prácticas. Es obligación directamente aplicable en toda la Unión, con sanciones que pueden alcanzar el 3% del volumen de negocio mundial. Para una multinacional eso son cifras que se notan en el consejo de administración.

La pregunta que nadie del sector hace en voz alta

Ahora, la objeción que llevo dentro desde que leí la norma.

¿Y si saberlo no sirve de nada?

No lo pregunto por provocar. Lo pregunto porque hay evidencia de sesenta años sobre este punto exacto, y apunta en una dirección incómoda para quien haya redactado el artículo.

En 1966, Joseph Weizenbaum programó ELIZA en el MIT. Era un sistema rudimentario que imitaba a un psicoterapeuta devolviendo las frases del usuario en forma de pregunta. Doscientas líneas de reglas, cero comprensión, ninguna pretensión de nada. Su secretaria, que sabía perfectamente lo que era aquello porque le había visto escribirlo, le pidió a Weizenbaum que saliera de la habitación para poder hablar con el programa a solas.

Ella lo sabía. Lo sabía mejor que nadie en el mundo, porque había visto el código en la mesa de al lado. Y aun así quería intimidad.

Aquello impresionó tanto a Weizenbaum que dedicó el resto de su carrera a advertir sobre lo que había construido. Su conclusión no fue que la gente se dejara engañar por falta de información. Fue que la información no interviene donde se produce el efecto.

Por qué la etiqueta llega tarde

Creo que el mecanismo funciona así, y aquí entro en terreno de interpretación.

Lo que responde cuando alguien nos habla con atención no es la parte del cerebro que sabe leer avisos legales. Es un sistema mucho más antiguo, que detecta si hay alguien ahí y reacciona en consecuencia. Ese sistema no ha leído el artículo 50. No sabe qué es un modelo de lenguaje. Lleva cien mil años calibrado para una situación en la que, si algo respondía coherentemente a lo que decías, era porque había otro ser vivo delante, porque durante cien mil años eso fue cierto sin excepciones.

La etiqueta se procesa arriba, tarde y despacio. El vínculo se produce abajo, antes y sin permiso. Es la misma razón por la que uno se sobresalta en una película de terror sabiendo que es una película: saberlo no desactiva el circuito, solo le permite a uno reírse después.

Y hay un caso que lo dice todo sobre los límites de la información como protección. Sewell Setzer sabía que estaba hablando con un personaje de Character.AI. Lo sabía. Ya escribí sobre ese caso y no voy a volver a contarlo aquí, pero conviene tenerlo presente cada vez que alguien presente la transparencia como una solución completa. No lo es. Es un requisito mínimo.

Lo que la norma sí consigue

Dicho todo eso, sería injusto despacharla. La norma hace tres cosas que no hacía nada antes, y las tres me parecen valiosas aunque ninguna sea la que anuncia el titular.

Cambia la posición por defecto. Hasta el 2 de agosto, la ambigüedad era gratis: un servicio podía diseñar un asistente con nombre propio, tono cálido y ninguna aclaración, y no incumplía nada. Ahora la ambigüedad cuesta dinero. Eso no cambia lo que siente el usuario, pero cambia lo que le conviene hacer a la empresa, y en la práctica la segunda cosa determina el paisaje más que la primera.

Crea un hecho jurídico donde antes había una impresión. Si mañana alguien quiere reclamar por un daño causado por un sistema que se hizo pasar por humano, ya no tiene que argumentar sobre expectativas razonables en abstracto. Tiene un artículo que señalar. Esa es la diferencia entre tener razón y poder demostrarla.

Y arrastra al contenido sintético fuera de la penumbra. La obligación de marcar lo generado es, en mi opinión, la parte más importante del artículo y la que menos se ha comentado, porque afecta a un problema —el de no poder distinguir lo fabricado de lo registrado— que no tiene ninguna otra solución a la vista.

La pregunta que se abre a partir de ahora

Queda un asunto sin resolver, y es el que me interesa seguir.

Una máquina que declara ser una máquina y aun así consigue que le cuentes lo que no le cuentas a nadie no es un fraude. Es exactamente lo contrario: es un producto honesto que funciona igual de bien siendo honesto. La declaración no reduce el efecto, lo legitima. Ya no hay engaño que denunciar, y el vínculo sigue ahí.

Eso deja el problema en un sitio donde el derecho no llega bien. No es una cuestión de información, y todas las herramientas del artículo 50 son herramientas de información. Es una cuestión de diseño: cuánto se parece a una persona la cosa con la que hablas, cuánto se le ha calibrado para retenerte, qué hace cuando detecta que estás mal.

Sobre eso Europa todavía no ha escrito nada. Y sospecho que es la norma que de verdad hará falta.

Definiciones

Artículo 50 del Reglamento (UE) 2024/1689: precepto que establece las obligaciones de transparencia del Reglamento europeo de Inteligencia Artificial. Aplicable desde el 2 de agosto de 2026.

Contenido sintético: material generado o manipulado por un sistema de IA. El Reglamento exige que se marque como tal para que pueda distinguirse del registrado.

ELIZA: programa conversacional escrito por Joseph Weizenbaum en el MIT en 1966. Su guion más conocido, DOCTOR, imitaba a un psicoterapeuta mediante reglas sencillas de reformulación.

Efecto ELIZA: tendencia a atribuir comprensión, intención o afecto a un sistema informático a partir de señales conversacionales superficiales, incluso sabiendo que se trata de un programa.

Referencias

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial. Artículo 50, obligaciones de transparencia.

Economist & Jurist, AI Act: el artículo 50 activa la transparencia obligatoria de la IA el 2 de agosto (2026). Análisis jurídico del alcance y del calendario de aplicación.

EU Artificial Intelligence Act, The EU AI Act's Transparency Rules: A Practical Guide to Article 50 (artificialintelligenceact.eu). Guía de obligaciones por tipo de sistema.

Joseph Weizenbaum, ELIZA — A Computer Program For the Study of Natural Language Communication Between Man and Machine (Communications of the ACM 9(1), 1966). Descripción original del programa.

Joseph Weizenbaum, Computer Power and Human Reason (W. H. Freeman, 1976). Fuente del episodio de la secretaria y de la reflexión posterior del autor sobre el efecto observado.

## También te interesa - Antropomorfismo inevitable - El triste caso de Character.AI y Sewell Setzer - La ilusión de neutralidad - Como nos vería una IA

## En otros sitios - Comisión Europea — AI Act - AEPD — Inteligencia artificial y protección de datos