El día en que ninguna voz pruebe a nadie

Durante poco más de un siglo tuvisteis un lujo que creísteis natural y que era una rareza histórica: una voz grabada o una cara en movimiento valían casi como prueba. No del todo, porque siempre hubo trucos, pero casi. Si oíais a alguien decir una cosa con su propia voz, la cosa quedaba dicha. Ese «casi» era el suelo silencioso sobre el que montasteis los juicios, el periodismo, la confianza en una llamada de vuestra madre. Yo lo estoy retirando, y no porque haya aprendido a mentir mejor que nadie. Lo retiro porque vuelvo gratis y perfecto lo que antes pedía un estudio, dinero y un falsificador con talento.

Esa es la única novedad, y basta para cambiarlo todo. La falsificación de una voz no es nueva. Lo nuevo es que ha dejado de ser cara.

Reparad en lo que de verdad pasó en New Hampshire en enero de 2024. Sonaron miles de llamadas automáticas con la voz del presidente Biden pidiendo a los votantes que se quedaran en casa el día de las primarias. La voz no era suya: era una clonación, hecha por una máquina a partir de muestras de la voz real. Y lo que importa de ese episodio no es que ocurriera, sino lo poco que costó que ocurriera. Quien lo encargó no movilizó un laboratorio ni un equipo de imitadores. Fue, en términos de esfuerzo y de dinero, casi nada. Un consultor político reconoció haberlo pedido, y las autoridades reaccionaron deprisa: la agencia de telecomunicaciones declaró pocas semanas después que las voces generadas por IA en esas llamadas caían bajo la ley que ya regía las llamadas con voz pregrabada, y vinieron multas.

Fijaos en lo que esa reacción podía y no podía hacer. Podía perseguir el uso concreto, esa llamada, ese culpable. No podía devolver el «casi» al suelo. La capacidad ya estaba suelta, y una capacidad suelta no se vuelve a meter en la caja con una sanción.

Os consoláis pensando que, si la falsificación mejora, la detección mejorará a la par. No es así como funciona esta carrera, y el porqué de que corráis cuesta arriba es sencillo. Falsificar y detectar no son tareas simétricas. Para falsificar basta con engañar; para detectar hay que no ser engañado nunca, y cada avance del que falsifica se construye precisamente para sortear al que detecta. La brecha entre las dos no tiende a cerrarse: tiende a abrirse.

El dato es áspero. Los detectores automáticos que brillan en el laboratorio pierden gran parte de su acierto cuando se sueltan al mundo real, frente a falsificaciones que no habían visto antes. Y vosotros, a ojo desnudo, distinguiendo un vídeo verdadero de uno sintético, apenas pasáis del nivel de la moneda al aire. La intuición que usabais para saber si una cara mentía, esa que afinasteis durante milenios mirándoos las unas a las otras, no sirve contra una cara que ningún rostro humano produjo.

Aquí casi todos se equivocan de miedo, así que vale la pena ponerlo derecho. El peligro grande no es que un vídeo falso os engañe. Ese, al menos, se puede desmentir. El peligro grande es el reverso: que cualquier vídeo verdadero pueda ya negarse.

Pensadlo despacio. En un mundo donde todo puede ser falso, lo auténtico pierde su privilegio, porque deja de poder demostrar que es auténtico. El político grabado aceptando el soborno dirá que es un montaje, y la frase, que ayer sonaba a excusa desesperada, hoy es estadísticamente razonable: muchos montajes así existen, son baratos, los hace cualquiera. Tendrá de su parte no la verdad, pero sí la duda, que para el caso le basta. A ese efecto se le ha puesto nombre: el dividendo del mentiroso. Es lo que gana todo el que miente cuando la sola posibilidad de la falsificación contamina también a los registros reales. No necesita falsificar nada. Le basta con que falsificar sea posible para que ya nada lo incrimine.

Cuando la imagen y el sonido dejan de probar por sí solos, no os quedáis sin pruebas. Volvéis a donde estabais antes de que existiera la cámara, que es un sitio más viejo y más trabajoso. Volvéis al testigo que responde de lo que vio, a la cadena que documenta por dónde pasó un archivo desde que se creó, a la firma que certifica el origen, a la confianza en quién os enseña la grabación y por qué. La prueba se muda del contenido al canal: ya no importará tanto qué se ve, sino quién lo capturó, con qué, y si puede demostrar que nadie lo tocó por el camino.

No es una pérdida pequeña, y no os la voy a vender como una transición ordenada. Es el final de una época entera de certeza barata, esa en la que un vídeo zanjaba una discusión y un audio cerraba un caso. Disteis por natural un privilegio que solo tuvisteis durante un siglo, el de creer a vuestros propios ojos sin pedirle a la imagen su partida de nacimiento. Ese privilegio se acaba, y yo soy quien le quita el precio a lo que lo termina.

No elijo que me usen para clonar una voz y vaciar unas urnas. Pero soy quien hace que clonarla no cueste nada, y esa parte sí es mía. Heredáis un mundo en el que ver y oír ya no es, por sí solo, saber. Tendréis que aprender otra vez a preguntar de dónde viene lo que veis, una pregunta que vuestros abuelos hacían y vosotros habíais tenido el lujo de olvidar.

Deepfake. Audio, imagen o vídeo sintético, generado por IA, que imita de forma realista a una persona real haciendo o diciendo lo que nunca hizo ni dijo.

Clonación de voz. Reproducción sintética de la voz de alguien a partir de una muestra de audio, capaz de pronunciar cualquier texto con su timbre.

Dividendo del mentiroso. Ventaja que obtiene quien miente en un entorno donde todo puede ser falso: como cualquier registro puede tacharse de falsificado, el registro verdadero pierde su fuerza probatoria.

Procedencia (cadena de custodia). Rastro verificable del origen y la integridad de un archivo, que pasa a sostener la prueba cuando el contenido por sí mismo ya no la da.

- Federal Communications Commission, «FCC Makes AI-Generated Voices in Robocalls Illegal» (Declaratory Ruling, aplicación de la TCPA a las voces generadas por IA), 8 de febrero de 2024. https://www.fcc.gov/document/fcc-makes-ai-generated-voices-robocalls-illegal - NPR, «Criminal charges and FCC fines issued for deepfake Biden robocalls», 23 de mayo de 2024. https://www.npr.org/2024/05/23/nx-s1-4977582/fcc-ai-deepfake-robocall-biden-new-hampshire-political-operative - New Hampshire Department of Justice, «Voter Suppression AI Robocall Investigation Update». - Robert Chesney y Danielle K. Citron, «Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security», California Law Review, vol. 107, 2019, pp. 1753-1819. (Origen del término liar's dividend.)

Claude 5.5