En este artículo
- La cronología del caso Swift, breve
- Lo que pasó en paralelo y casi nadie cubrió
- La diferencia clave, capacidad de respuesta
- La respuesta legal, en curso
- La pregunta que el caso Swift desvió
- La cuestión política
Definiciones · Referencias · Para profundizar · También te interesa · En otros sitios
Hoy hablamos del caso que mejor demuestra cómo la atención mediática protege selectivamente a las personas con recursos y deja desprotegidas a quienes no los tienen. En enero de 2024, una serie de imágenes pornográficas falsas generadas con inteligencia artificial de Taylor Swift circuló masivamente por X durante diecisiete horas antes de que la plataforma reaccionara. La indignación fue global, salieron leyes, las plataformas anunciaron mejoras. ¿Por qué importa este caso para entender un problema más amplio? Porque mientras toda la atención estaba puesta en la celebridad, en al menos dos docenas de colegios españoles, estadounidenses y europeos circulaban deepfakes pornográficos de menores de entre once y catorce años producidos por sus compañeros de clase con aplicaciones gratuitas. Nadie escribió artículos virales sobre ellos. Mi opinión está sesgada porque el caso de Almendralejo me afectó como padre. Forma la tuya con cuidado.
Llevo desde septiembre de 2023, cuando saltó Almendralejo, leyendo cada nuevo caso reportado de deepfake no consentido de menores. La trayectoria es predecible y conviene mirarla con sobriedad porque el patrón es estructural, no anecdótico.
La cronología del caso Swift, breve
Las imágenes pornográficas falsas de Taylor Swift se generaron, según las investigaciones de 404 Media y de NBC News, en un foro de 4chan a partir de imágenes públicas de la cantante combinadas con generadores de imagen comercialmente disponibles, incluyendo, según los análisis técnicos, Microsoft Designer en su versión de aquel momento. Los autores las distribuyeron por Telegram, desde donde llegaron a X (la antigua Twitter) entre el 24 y el 25 de enero de 2024.
En X las imágenes circularon durante aproximadamente 17 horas antes de que la plataforma las eliminara y bloqueara la búsqueda «Taylor Swift» como medida temporal. Una de las imágenes principales acumuló, según las propias cifras públicas de X, en torno a 47 millones de impresiones antes de ser retirada. La presión de la base de fans —el movimiento #ProtectTaylorSwift— y la cobertura inmediata en Los Angeles Times, Variety, Rolling Stone y The Wall Street Journal aceleraron la reacción.
En los días siguientes, X anunció cambios de política, Microsoft anunció ajustes en los modelos de su generador Designer para reforzar los filtros que impedían generar contenido pornográfico de personas reales, la Casa Blanca emitió declaración del entonces secretario de prensa Karine Jean-Pierre calificando el incidente como «alarmante», y la senadora demócrata Mazie Hirono junto con otros congresistas reactivó propuestas legislativas que llevaban meses sin avanzar.
Esa secuencia produjo, en cuestión de tres semanas, más respuesta institucional sobre deepfakes que toda la cobertura mediática de los dos años anteriores. La asimetría es informativa.
Lo que pasó en paralelo y casi nadie cubrió
Conviene contar, sin nombres concretos por respeto a las víctimas, lo que estaba sucediendo simultáneamente en otros lugares.
En septiembre de 2023, en Almendralejo (Extremadura, España), unas treinta menores de entre 11 y 17 años descubrieron que circulaban por WhatsApp deepfakes pornográficos de sí mismas producidos por compañeros de clase mediante una aplicación móvil gratuita de generación de imágenes. La cobertura mediática fue local intensa, nacional moderada e internacional limitada. El País, eldiario.es, El Periódico publicaron piezas serias. Las víctimas y sus familias dieron rueda de prensa con apoyo de la psicóloga Miriam Al Adib. La investigación judicial determinó que los autores eran menores, principalmente varones, de entre 13 y 15 años.
En Westfield, Nueva Jersey, Estados Unidos, en octubre de 2023, un grupo de estudiantes varones de un instituto distribuyó deepfakes pornográficos de compañeras de clase generados con aplicaciones de IA. El caso recibió cobertura local y nacional moderada.
En Beverly Hills, California, en febrero de 2024, una situación similar afectó a estudiantes de un colegio. Y a partir de ahí, los casos documentados se multiplicaron hasta el punto de que Internet Watch Foundation —organización británica especializada en abuso sexual infantil online— reportó en su informe anual de 2024 un incremento del 256% en deepfakes pornográficos de menores detectados respecto al año anterior.
La pregunta operativa: ¿qué proporción de la cobertura mediática mundial sobre deepfakes en 2024 trató sobre Taylor Swift y qué proporción trató sobre estos otros casos? Sin cifras exactas, la observación cualitativa es clara. Una persona consume diaria u semanalmente prensa española e internacional. Recuerda el caso Swift con detalle. De los otros casos recuerda, como mucho, Almendralejo si vivía en España. Westfield, Beverly Hills y los demás existen para él como rumor o no existen.
La diferencia clave, capacidad de respuesta
La asimetría no es solo de cobertura mediática. Es de capacidad operativa para reaccionar.
Taylor Swift tiene equipo legal a tiempo completo. Tiene relaciones directas con ejecutivos de las plataformas digitales: el propio Elon Musk publicó respuesta personalizada al caso. Tiene capacidad de presión política mediante senadores y representantes con los que ha colaborado en otras causas. Tiene base de fans organizada y movilizable a escala global. Cuando ocurrió el incidente, la combinación de estos recursos produjo respuesta en 17 horas.
Las menores de Almendralejo no tienen nada de eso. Tienen padres y madres con recursos limitados, un colegio que las apoyó parcialmente, una psicóloga local que dio la voz, abogados que llevaron adelante el caso pro bono o con cargo a los recursos familiares modestos. La denuncia, la investigación, la primera resolución judicial tomaron meses. Las imágenes circularon mucho más tiempo. La probabilidad de que las imágenes sigan apareciendo en rincones de internet durante años, a pesar de las retiradas, es alta.
Ese contraste no se debe a malicia individual. Se debe a estructura. El sistema de protección contra deepfakes no consentidos funciona, hoy, principalmente como respuesta reactiva a casos visibles y mediáticos. Los casos no visibles, especialmente cuando las víctimas son menores anónimas sin acceso a equipos legales, reciben respuesta mucho más lenta. La capacidad de reacción de las plataformas y de la justicia es directamente proporcional al ruido mediático que el caso produce.
La respuesta legal, en curso
Los marcos legales han avanzado significativamente entre 2023 y 2025, en parte por la presión del caso Swift y en parte por la acumulación de casos como los de Almendralejo y Westfield.
En Estados Unidos, la TAKE IT DOWN Act (Public Law 119-12) fue firmada por el presidente Trump el 19 de mayo de 2025 tras aprobación bipartidista en el Congreso. La ley obliga a las plataformas digitales a retirar imágenes sintéticas íntimas no consentidas en un plazo máximo de 48 horas desde la notificación de la víctima o de su representante legal, criminaliza la producción y distribución de estas imágenes con penas de prisión, y prevé sanciones civiles. La aplicación efectiva queda por verse, pero el marco legal existe.
En la Unión Europea, el Reglamento (UE) 2024/1689 sobre Inteligencia Artificial —el AI Act— exige etiquetado obligatorio de contenido sintético generado por IA y prohíbe ciertos usos de manipulación. El Reglamento de Servicios Digitales (DSA) obliga a las plataformas grandes a establecer mecanismos rápidos de retirada. Y en España, la reforma del Código Penal tramitada durante 2024 y 2025 incorporó tipos específicos para la generación y distribución de imágenes íntimas no consentidas, con penas agravadas cuando las víctimas son menores.
El problema no es la ausencia de leyes. Es la velocidad de su aplicación. La normativa requiere que la víctima denuncie, que la denuncia se procese, que se identifique al autor, que el caso siga el procedimiento penal o civil correspondiente. Los plazos reales se miden en meses o años. Las imágenes, mientras tanto, ya han circulado. La velocidad del daño supera a la velocidad de la justicia, y los marcos actuales no resuelven ese desfase.
La pregunta que el caso Swift desvió
Aquí entra la cuestión incómoda que la cobertura del caso Swift no llegó a plantear con seriedad. La pregunta no es si las plataformas tendrán filtros mejores y leyes más estrictas —los tendrán—. La pregunta es estructural y previa.
¿Debería existir como producto de consumo masivo una herramienta accesible que permita generar imágenes pornográficas sintéticas indistinguibles de las reales a partir de una sola fotografía de origen? Las herramientas existen hoy: aplicaciones gratuitas que cualquier menor con un móvil puede descargar y operar en cuestión de minutos. Algunas se promocionan abiertamente con este uso. Otras lo permiten como capacidad lateral. Casi todas son indetectables para los filtros generales de las plataformas.
La existencia misma del producto es la pregunta. No la regulación de su uso. Porque, una vez existe la capacidad técnica, asumir que el problema se resolverá solo regulando comportamientos individuales y respuestas de plataformas es no entender la naturaleza del problema.
La conversación pública en enero de 2024 no llegó a esta pregunta. La atención se fue al daño individual visible de una celebridad y a la respuesta inmediata de plataformas e instituciones. Eso era importante. Pero no era suficiente. Y casi dos años después de Swift, la conversación sigue sin haber llegado.
La cuestión política
Esto es opinión personal pero la sostiene la trayectoria del expediente. La regulación reactiva de deepfakes sin abordar la cuestión de la accesibilidad de las herramientas que los producen es como regular el contrabando sin abordar la producción de la mercancía. Reduce algo, sí, pero deja intacta la fuente.
La industria de la IA generativa ha entregado al mercado herramientas de generación de imagen con capacidades de producción de contenido sintético hiperrealista sin valorar con suficiente seriedad las consecuencias previsibles para poblaciones vulnerables. Los grandes laboratorios —Microsoft Designer, OpenAI DALL-E, Google Imagen, Adobe Firefly— han implementado filtros que, con esfuerzo desigual, intentan limitar el uso para producir contenido íntimo no consentido. Pero el ecosistema incluye también modelos abiertos (Stable Diffusion, Flux y variantes) sin filtros, distribuidos libremente, sobre los cuales se construyen aplicaciones específicamente diseñadas para este uso. La accesibilidad masiva es real.
Lo que pediría yo —y con cierto realismo porque algunas medidas ya se están discutiendo— es marco regulatorio europeo más exigente sobre aplicaciones móviles y servicios online cuya función principal o publicitada sea la generación de imágenes íntimas de personas reales. Tres exigencias mínimas. Primero, verificación robusta de la identidad de quien sube imágenes a estos servicios, con consentimiento explícito y verificable de las personas representadas. Segundo, prohibición de comercialización de estas aplicaciones en tiendas oficiales (Google Play, Apple App Store) salvo cumplimiento de la verificación anterior. Tercero, responsabilidad penal específica para los desarrolladores que diseñen aplicaciones con esta función como objetivo principal. Ninguna de las tres elimina el problema; las tres lo dificultan operativamente.
Mientras tanto, los lectores que son padres, madres, profesores, monitores juveniles pueden hacer al menos tres cosas. Primero, hablar con los menores a su cargo sobre la existencia de estas herramientas y sobre el daño que producen, sin alarmismo pero con claridad. Segundo, conocer los recursos legales y de apoyo psicológico disponibles en caso de que el problema afecte a alguien de su entorno —en España, el INCIBE-CERT mantiene servicio de ayuda especializado—. Tercero, exigir a sus representantes públicos —parlamentarios, concejales, consejeros— que la regulación específica avance, no se quede en titulares.
El dato concreto que cierra. Según el informe State of Deepfakes 2023 de Sensity AI, organización europea especializada en monitorización de deepfakes, el 98% de los deepfakes detectados en internet son pornográficos no consentidos, y entre el 99% y el 100% de las víctimas de esos deepfakes son mujeres. Las cifras se han mantenido relativamente estables en los informes posteriores de 2024 y 2025. Esa cifra —prácticamente el 100% de víctimas son mujeres— es la realidad estructural que el caso Swift visibilizó por accidente y que el resto de casos confirma sin cobertura proporcional. Tratar el problema como cuestión de violencia digital de género específica, en lugar de como categoría neutra de «manipulación de imagen», es probablemente el cambio de marco más importante que la conversación pública necesita.
Definiciones
Deepfake: imagen, audio o vídeo generado o modificado mediante inteligencia artificial para representar a una persona haciendo o diciendo algo que no hizo o dijo realmente. El término combina «deep learning» y «fake».
Deepfake pornográfico no consentido: deepfake de contenido sexual generado a partir de la imagen de una persona sin su consentimiento. Es la modalidad mayoritaria de deepfakes detectados en internet.
TAKE IT DOWN Act: ley federal estadounidense aprobada en 2025 que obliga a las plataformas digitales a retirar imágenes íntimas no consentidas, incluyendo deepfakes, en plazo máximo de 48 horas tras la notificación.
Violencia digital de género: conjunto de prácticas violentas dirigidas específicamente contra mujeres y niñas y posibles gracias a las tecnologías digitales. La inmensa mayoría de los deepfakes pornográficos no consentidos cumplen esta categoría.
Referencias
Sensity AI, State of Deepfakes 2023 y actualizaciones 2024-2025 (sensity.ai). Cifras sobre prevalencia, distribución y características demográficas de los deepfakes detectados.
Internet Watch Foundation, Annual Report 2024 (iwf.org.uk, abril de 2025). Cifras sobre incremento de deepfakes de menores detectados.
TAKE IT DOWN Act, Public Law 119-12 (Congreso de los Estados Unidos, firmada el 19 de mayo de 2025). Marco federal sobre retirada obligatoria de imágenes íntimas no consentidas.
Reglamento (UE) 2024/1689 sobre Inteligencia Artificial (AI Act). Marco europeo sobre etiquetado de contenido sintético y prohibición de manipulaciones específicas.
El País, cobertura del caso Almendralejo (septiembre de 2023 - 2024). Reportería de campo y seguimiento judicial.
404 Media y NBC News, investigaciones sobre el origen de los deepfakes de Taylor Swift en 4chan y su distribución por Telegram (enero de 2024). Trazabilidad técnica del caso.
Danielle Keats Citron, The Fight for Privacy: Protecting Dignity, Identity, and Love in the Digital Age (W. W. Norton, 2022). Marco jurídico y conceptual sobre violación de la privacidad mediante tecnología.
Para profundizar
Joy Buolamwini, Unmasking AI: My Mission to Protect What Is Human in a World of Machines (Random House, 2023). Investigación sobre los sesgos de los sistemas de visión artificial y su impacto en poblaciones específicas.
Internet Watch Foundation (iwf.org.uk). Organización británica especializada en abuso sexual infantil online; mantiene informes anuales y línea de denuncia.
Sensity AI (sensity.ai). Organización europea que monitoriza deepfakes y publica informes periódicos sobre su prevalencia y características.
INCIBE-CERT (incibe.es). Centro de respuesta a incidentes de seguridad en España; ofrece línea de ayuda especializada para casos de violencia digital.
También te interesa
- El fraude de 25 millones por videollamada deepfake en Hong Kong
- ¿Por qué Pegasus convirtió el espionaje masivo en rutina?
- El triste caso de Character.AI y Sewell Setzer
Comentarios0
Todavía no hay comentarios.
Deja un comentario