Los 10 peligros de la IA y un cuerno

Hoy hablamos de un género literario menor que llena media SERP española sobre inteligencia artificial: el listicle de «los X peligros de la IA». Aviso de entrada que este artículo conserva un número en el título —diez— pero es una broma a su costa, no un listicle. La tesis es áspera. Los peligros reales no son diez, no salen redondos, no caben en una infografía bonita y, sobre todo, no son los que el listicle se anima a numerar. Mi opinión está sesgada porque he escrito listicles en otra vida y conozco la lógica de adentro. Forma la tuya: abre cualquier listicle de «peligros de la IA» en español, cuenta cuántos son ruido y cuántos son riesgos serios, y juzga.

Llevo desde 2023 con un archivo donde cuelgo cada listicle de peligros de la IA que pasa por mi feed. Tengo veintitrés. Diecinueve de los veintitrés tienen exactamente diez puntos. Tres tienen siete. Uno —prensa de gimnasio, no me preguntéis cómo llegó— tiene cinco. Ninguno tiene cuatro, ni once, ni veintidós. La distribución no es aleatoria; es resultado del formato.

La economía del listicle, explicada con calma

El listicle —artículo numerado con un titular del tipo «las X mejores Y» o «los X peligros de Z»— nació como género web en torno a 2008, en el momento en que medios como BuzzFeed empezaron a optimizar agresivamente para tasa de clic en redes sociales. La estructura formal del listicle tiene tres ventajas para el editor y casi ninguna para el lector.

La primera ventaja es la tasa de clic. Un titular con un número concreto promete contenido digerible, acotado y completable en pocos minutos. Los estudios de tráfico de medios anglosajones publicados a lo largo de la década de 2010 documentaron consistentemente que titulares con número en posición prominente generaban entre un 30% y un 70% más de clics que titulares equivalentes sin número. El editor que conoce ese dato lo aplica.

La segunda ventaja es la retención. Cuando un lector empieza un listicle de diez puntos sabe que llegar al punto diez le llevará entre cuatro y siete minutos. La promesa de cierre cercano reduce la tasa de abandono respecto a un artículo abierto sin estructura visible. El lector va de bullet en bullet sintiendo progreso.

La tercera ventaja es el compartido. Un listicle se comparte mejor que un artículo discursivo porque permite citar puntos concretos —«mira el punto 4, justo lo que decía»—. Los algoritmos de redes sociales premian ese tipo de contenido.

Las tres ventajas son del editor. El lector, mientras tanto, recibe a cambio una jerarquía falsa donde puntos importantes y puntos accesorios aparecen como ítems equivalentes en una lista numerada, sin distinción de peso.

Por qué siempre diez

La elección del número no es del autor, es del editor o del SEO manager. Tras casi quince años de experimentación, la mayoría de redacciones digitales han concluido que diez es la cifra óptima. Es bastante para parecer exhaustivo pero no tanto para parecer abrumador. Se digiere en una sesión de lectura única. Cabe en una infografía vertical para Instagram. Y, sobre todo, suena a inventario completo: «los diez peligros», no «algunos peligros», no «los más importantes», no «una muestra».

Esa solidez aparente es el problema. Diez peligros sugieren una taxonomía cerrada. Pero la taxonomía cerrada no existe en una tecnología que cambia cada seis meses. Cualquier listicle de hace tres años tenía como peligro central «pérdida de empleos por automatización». Hoy ese peligro aún figura pero ha mutado: ya no es la sustitución masiva sino el rediseño de tareas dentro del mismo puesto, con efectos asimétricos según sector. Un listicle de hoy debería decir cosas distintas a un listicle de hace tres años. La mayoría no lo hace; reproduce el mismo esquema con nombres ligeramente actualizados.

Para llegar a diez peligros, además, hay que inflar. Cuando una redacción inventaria los peligros reales que aparecen en literatura académica seria —papers de FAccT, NeurIPS, AI Now Institute, Stanford HAI, AI Index— se encuentran dos cosas. Los peligros estructurales son menos de diez. Los peligros chillones son más de diez. Para llegar al número mágico, el editor mezcla ambos sin distinción.

Los peligros reales, los que no se inflan

Aquí está la parte incómoda y voy con ella sin numerarla, precisamente. Los peligros estructurales documentados con evidencia en la literatura académica y empírica reciente son aproximadamente los siguientes, y la jerarquía dentro de la lista importa más que el número total.

El primer peligro estructural es la concentración corporativa del cómputo. Cinco o seis empresas controlan la infraestructura sobre la que se entrena y se sirve la IA generativa: Microsoft, Amazon, Google, Meta, Nvidia, OpenAI. Los costes que vimos en 0055 hacen prácticamente imposible que entren nuevos competidores. Esa concentración tiene consecuencias económicas y políticas que casi todos los listicles silencian, probablemente porque sus propios medios reciben publicidad de los actores concentrados.

El segundo peligro estructural es la atrofia cognitiva por delegación. Cuando una herramienta hace por uno tareas cognitivas que antes hacía uno mismo —resumir, redactar, calcular, recordar—, la habilidad correspondiente se debilita. La literatura sobre dependencia del GPS y disminución de habilidades de orientación espacial es solo un anticipo. Los estudios publicados en Nature y en Science durante 2024 y 2025 sobre uso intensivo de ChatGPT y rendimiento en tareas de razonamiento independiente apuntan, con matices, a efectos comparables.

El tercer peligro estructural es la captura del input. Cada vez que escribes en un chatbot generas datos que, según la política del servicio, pueden usarse para entrenar la siguiente generación del modelo. La empresa que recoja el corpus privado de mayor calidad humana entre 2024 y 2028 tendrá una ventaja insuperable cuando el corpus público se sature, como vimos en 0057. El usuario es proveedor de materia prima sin saberlo y, casi siempre, sin compensación.

El cuarto peligro estructural es la deslocalización del trabajo crítico. Las grandes plataformas de IA generativa descansan sobre cadenas de trabajadores precarizados en países en desarrollo —anotadores de Kenia, Filipinas, Venezuela y Colombia trabajando por dos dólares la hora— que etiquetan datos, moderan contenido violento y entrenan filtros. La inteligencia artificial parece automática y desmaterializada; en realidad es trabajo humano subcontratado e invisible. El periodismo de 404 Media y otros medios ha documentado esto con detalle.

El quinto peligro estructural es la erosión de instituciones intermedias del conocimiento. La educación, el periodismo, la edición de libros, la enseñanza universitaria, la formación profesional. Cada una de estas instituciones cumple una función de mediación cognitiva entre conocimiento abstracto y aplicación práctica. Cuando un modelo conversacional ofrece síntesis instantánea y aparentemente competente, la mediación se vuelve económicamente inviable. Las instituciones afectadas pueden tardar décadas en reconstruirse, si se reconstruyen.

A esto se añaden riesgos secundarios verificables: sesgo algorítmico en aplicaciones de alto riesgo —contratación, crédito, sentencias judiciales— que documenta desde hace una década Cathy O'Neil en Weapons of Math Destruction (Crown, 2016); uso militar de sistemas autónomos sin supervisión humana adecuada, ejemplificado por el caso Lavender en Gaza documentado por +972 Magazine en abril de 2024; presión sobre recursos energéticos e hídricos como vimos en 0079.

Cuento, sumando estructurales y secundarios, en torno a ocho. Ni diez ni cinco. La cifra exacta no importa; la jerarquía sí.

Los peligros inflados que aparecen siempre

Para llegar a diez en el listicle medio, hay que inflar. Los infladores tipo son siempre los mismos.

Aparece «la singularidad», el momento hipotético en que la inteligencia artificial supere la inteligencia humana en todos los dominios. Es una hipótesis filosófica respetable, defendida por Ray Kurzweil entre otros, pero no es un peligro inmediato medible. Mezclarla con los peligros estructurales actuales es mezclar quinientos años de futuro con quince años de presente.

Aparece «Skynet», la referencia cinematográfica al sistema autónomo de Terminator que decide exterminar a la humanidad. Es una metáfora útil para discusiones de ciencia ficción pero, como peligro operativo, no figura en ninguna taxonomía seria de riesgos a corto plazo. Aparece en el listicle porque suena. No porque sea probable.

Aparecen «los robots asesinos». Las armas autónomas son un debate serio en derecho internacional humanitario, sí. Pero la formulación «robots asesinos» trivializa el debate y lo desplaza hacia un imaginario de Hollywood en lugar de la realidad documentable —que es, justamente, sistemas semiautónomos como Lavender, con supervisión humana inadecuada, ya en uso operativo—.

Aparece «la IA que se vuelve consciente». La cuestión de la conciencia artificial es interesante filosóficamente. Como peligro operativo a corto plazo, no figura en la literatura técnica seria. El cerebro humano sigue siendo el ejemplo de conciencia mejor documentado y no sabemos cómo replicarlo. Listar la conciencia artificial como peligro número 9 al lado de la concentración corporativa de cómputo es un acto de equilibrio retórico, no de análisis.

Aparecen los «deepfakes en general», sin distinguir entre deepfakes pornográficos no consentidos —daño real, documentado, frecuente, con víctimas concretas— y deepfakes políticos de cabezas de Estado —técnicamente fáciles de producir pero con limitada eficacia electoral en mercados donde la información se contrasta—. La indiscriminación entre ambos suma puntos a la lista pero degrada el análisis.

La regla práctica para el lector

Hay un test simple para distinguir, frente a un listicle de peligros de la IA, si vale la pena leerlo o no.

Mira el título. Si dice «los X peligros» con X siendo un número redondo —cinco, siete, diez—, ya sabes con qué te enfrentas. Si dice «los principales peligros» o «los riesgos estructurales» sin número, da una pista de honestidad.

Mira los autores referenciados. Si el listicle no cita ni una sola fuente académica o periodística verificable, no es divulgación; es texto generado para SEO. Si cita a Crawford, a Russell, a Gebru, a O'Neil, a Mitchell, a Bender, a algún paper concreto, hay base detrás.

Mira la jerarquía interna. Un análisis serio distingue qué riesgo es más relevante y por qué. Un listicle mediocre los presenta todos como equivalentes con bullets idénticos. Si los diez peligros tienen la misma longitud de párrafo y el mismo peso visual, la jerarquía falsa está delatándose sola.

Mira si menciona el conflicto de interés. ¿Habla el listicle de la concentración corporativa? ¿Menciona quién controla el cómputo? ¿Discute por qué su propio medio recibe publicidad de Microsoft o de Amazon? La autocrítica del medio es marcador de seriedad. Su ausencia es marcador de captura editorial blanda.

Si el listicle falla esas cuatro pruebas, no es divulgación seria sobre los peligros de la IA. Es contenido para llenar la SERP, escrito por un redactor con plazo de cuatro horas y editor que cobra por clic. Eso no es ni malo ni bueno en sentido moral; es exactamente lo que parece. Pero el lector debería saber lo que está consumiendo antes de tomarlo como base para formar opinión.

La cuestión política

Esto es opinión personal pero la sostengo con dos años de archivo. La proliferación de listicles sobre peligros de la IA no es defecto individual de redactores. Es síntoma de un ecosistema mediático que premia la forma sobre el fondo cuando se trata de un sector que la mayoría de la audiencia no domina. La consecuencia social es seria: la conversación pública sobre IA se polariza entre apologetas que ignoran los riesgos y catastrofistas que los exageran, sin espacio intermedio para el análisis serio. Esa polarización no es accidental; es producida por el formato.

Lo que sostengo es que los peligros reales —concentración corporativa, atrofia cognitiva, captura del input, deslocalización del trabajo crítico, erosión de instituciones intermedias— son más graves que los inflados, pero menos viscerales. Un robot asesino mueve emocionalmente; una concentración de cómputo no. Eso explica por qué el listicle elige siempre lo viscerale y por qué la conversación pública se ha desplazado en consecuencia.

Lo que pediría yo a la prensa española, y nuevamente sin esperanza realista de conseguirlo, es que los listicles sobre peligros de la IA se sustituyan por análisis estructurados que diferencien riesgos sistémicos verificables, riesgos secundarios documentables, y especulaciones de futuro lejano. Esas tres categorías no caben en diez bullets. Caben en un artículo de varias mil palabras que el formato actual de la web española no se anima a producir.

Mientras tanto, el lector individual puede al menos leer los listicles sabiendo qué son. No información. Decoración numérica con vocabulario técnico.

El dato concreto que cierra. Según el Reuters Institute Digital News Report 2025, los formatos numerados —listicles, rankings, taxonomías cerradas— representan en torno al 23% del contenido más leído en las secciones de tecnología de los principales medios digitales europeos, mientras que el contenido analítico de profundidad —piezas de más de 1.500 palabras con citas verificables— representa menos del 6% del consumo medido. Esa proporción describe el ecosistema mejor que cualquier crítica abstracta. Y describe, también, por qué este artículo, deliberadamente largo y deliberadamente sin diez puntos numerados, está condenado a ser leído por menos personas que el listicle al que critica. Eso es exactamente lo que el problema produce.

Definiciones

Listicle: artículo estructurado como lista numerada con un titular del tipo «las X razones por las que Y» o «los X peligros de Z». Género web optimizado para tasa de clic y compartido en redes sociales.

Jerarquía analítica: distinción explícita entre elementos de una taxonomía según su peso, evidencia disponible y consecuencias previsibles. El listicle típico la suprime; el análisis serio la requiere.

Concentración corporativa del cómputo: situación en la que un número reducido de empresas controla la infraestructura de cálculo necesaria para entrenar y servir modelos de IA. Es probablemente el riesgo estructural más documentado del sector contemporáneo.

Captura editorial blanda: situación en la que un medio modula su cobertura por dependencia económica o de acceso respecto a las empresas que cubre. No requiere acuerdo explícito; se produce por incentivos sostenidos. Vista con detalle en 0067.

Referencias

Cathy O'Neil, Weapons of Math Destruction (Crown, 2016). Texto canónico sobre sesgo algorítmico en aplicaciones de alto riesgo; uno de los pocos libros que sostiene el análisis serio sin caer en el listicle.

Kate Crawford, Atlas of AI (Yale University Press, 2021). Marco material sobre los costes físicos, laborales y políticos de la infraestructura de IA.

Stanford HAI, Artificial Intelligence Index Report 2026 (abril de 2025). Sección sobre cobertura mediática y percepción pública.

Reuters Institute for the Study of Journalism, Digital News Report 2025 (Oxford University, junio de 2025). Cifras sobre consumo de formatos numerados frente a análisis de profundidad.

Yuval Abraham, 'Lavender': The AI machine directing Israel's bombing spree in Gaza (+972 Magazine, 3 de abril de 2024). Caso documentado de uso militar con supervisión humana inadecuada.

Karen Hao, Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI (Penguin Press, 2025). Reportería de fondo que ejemplifica el análisis serio en formato extenso.

International Energy Agency, Electricity 2024 (IEA, enero de 2024). Capítulo sobre impacto energético de centros de datos, base para el peligro estructural sobre recursos.

Para profundizar

Nicholas Carr, The Shallows: What the Internet Is Doing to Our Brains (W. W. Norton, 2010). Marco para entender la atrofia cognitiva por delegación.

Daron Acemoglu & Simon Johnson, Power and Progress (PublicAffairs, 2023). Análisis histórico sobre cómo se distribuye el beneficio de una tecnología cuando el recurso clave se concentra.

Stuart Russell, Human Compatible (Viking, 2019). Marco riguroso sobre los riesgos de control que el listicle simplifica como «Skynet».

Ryan Holiday, Trust Me, I'm Lying (Portfolio, 2012; edición revisada 2017). Manual interno sobre cómo se diseña contenido viral, incluido el listicle.

También te interesa

• Diez razones para no leer otro listicle sobre IA en tu vida
• Cinco ventajas de la IA, dependiendo de quien te la quiera vender
• El comunicado de prensa de OpenAI no es periodismo
• Los verdaderos peligros de la IA

En otros sitios

• AI Now Institute
• Center for Humane Technology