Por qué Shoshana Zuboff lleva razón sobre la IA

A Zuboff llegué tarde y mal, cuando ya todo el mundo la citaba de memoria sin haberla terminado. Su libro es de 2019, anterior a ChatGPT, y a cuenta de esa fecha lo despacharon como una denuncia anti-Google de otra temporada. Yo creo que se equivocaron de entierro. Lo que ella describió no se quedó en el buscador: cambió de carcasa y se instaló en el chatbot. Tecleo un prompt y me acuerdo de ella, y el recuerdo no consuela.

La frase que cuelga sobre todo el debate

«Si un producto no tiene precio, el producto eres tú.» El aforismo circula de barra en barra, atribuido a quien haga falta, gastado de tanto repetirlo. Acierta lo justo para sobrevivir y se queda corto en cuanto lo aprietas. Lo que Zuboff lleva veinte años afilando va más lejos que lo gratis: sostiene que cuando algo es gratis, barato o está subvencionado, el negocio de verdad respira en otro plano, uno que no se te muestra. Y con la IA generativa ese plano cobra en una materia que antes no le confiabas a nadie: cómo piensas, qué te preocupa, en qué andas atascado, qué decisión te quita el sueño y vas a tomar mañana por la mañana.

Hay un viejo aviso de catecismo que viaja por el mismo raíl. Dios te está mirando. Concédele al cura toda la razón y Dios todavía sale mal parado de la comparación, porque no acumula sobre ti tanto material, ni tan jugoso, como el que tiene Google. O ahora OpenAI, Anthropic, Google con Gemini, la china DeepSeek. La diferencia que importa no está en quién mira. Está en que Dios, al menos sobre el papel, no factura por lo que ve.

Damos por hecho que estas empresas guardan lo nuestro bajo siete llaves. Falso. Las brechas se encadenan, hay empleados que fisgan registros que no les corresponden, y los datos se filtran hacia terceros porque esa filtración es el negocio y no una avería del negocio. Desconfía de los mercaderes, aunque desconfiar te sirva de poco, porque tampoco tienes mucho margen para hacer otra cosa. Saberlo no te protege; cambia, eso sí, con qué cara te sientas a escribir.

Qué dijo Zuboff exactamente, lejos del resumen de tertulia

Shoshana Zuboff es profesora emérita de la Harvard Business School. En los años ochenta estudió cómo el ordenador estaba rehaciendo el trabajo de oficina, y de ahí salió In the Age of the Smart Machine (1988). Reapareció en el centro del tablero en 2019 con The Age of Surveillance Capitalism, un volumen de más de setecientas páginas que le llevó cerca de una década.

Su definición, vertida sin adornos, dice que el capitalismo de vigilancia se apropia por su cuenta de la experiencia humana como materia prima gratuita, la convierte en datos sobre tu conducta, destina una parte a mejorar el servicio que usas y se queda la otra, la grande, como excedente conductual de su propiedad exclusiva. Ese excedente se procesa para fabricar predicciones de lo que harás dentro de un rato, mañana, la semana que viene.

Tres palabras de esa definición merecen que uno se pare, porque el lenguaje las suaviza y cada una esconde un filo. Unilateralmente, la primera: no hubo negociación ni contrato a la altura, hubo una política de privacidad larguísima que nadie lee y que el legislador deja que siga teniendo ese tamaño justamente para que nadie la lea. Experiencia humana, la segunda, y aquí está el salto que se le escapa a casi todos. No se refiere al número de tu tarjeta ni a los formularios que rellenaste a conciencia, sino a lo que dejas sin querer dejarlo: cuánto se demora tu mirada en una línea, qué tecleaste y borraste antes de pulsar enviar, lo que reformulaste tres veces, lo que abandonaste a la mitad. Y productos predictivos, la tercera. Aquí vive el malentendido cómodo, el de creer que te venden tus datos. No es eso lo que se subasta. Lo que se subasta es la predicción de lo que vas a hacer, y los postores son anunciantes, aseguradoras, prestamistas, jefes, partidos. Sale a remate tu mañana, ya calculado por otros.

Donde la IA generativa encaja hasta dar grima

Zuboff escribía mirando a Google y a Facebook: el clic, el tiempo en pantalla, la retención del scroll. Pero hilaba más fino que el panfleto antitecnológico al uso, y dejó anotado que el peldaño siguiente sería el acceso al pensamiento del usuario tal como lo formula con palabras, ya no el clic sino la idea dicha. Eso, sin metáfora que valga, es lo que pasa cuando le hablas a un chatbot.

Un prompt no hace cola con los demás datos. Es un retrato. Le sueltas tu estado de ánimo del día —«tengo una reunión incómoda con mi jefe y no sé cómo entrarle», «estoy pensando en dejar a mi pareja», «no llego a todo y me supera»— sin ningún rodeo de por medio. Le entregas el problema que de verdad te ocupa, que tanto puede ser una propuesta para un cliente como cómo le digo a mi padre que tiene cáncer o cómo se redacta un convenio regulador. Le entregas el proyecto en el que estás metido hasta el cuello: la novela del XIX a medias, la app que montas por las noches, la oposición que preparas. Y le entregas, sin darte cuenta, tu punto flaco, porque toda pregunta confiesa una ignorancia. Cada consulta a un chatbot es una postal del mapa exacto de lo que no sabes.

Eso es excedente conductual de una clase que no admite comparación con el clic en un anuncio de zapatillas. Y se lo regalas tú, agradecido, a cambio de una respuesta servicial, sin nada que se parezca a un trato proporcional sobre el destino de lo que acabas de teclear.

La asimetría no estorba al negocio, lo cimenta

De tus prompts no sabes qué hacen. Sabes lo que recita una política de privacidad que cambia según el producto, opaca por diseño y reescribible cuando a la empresa le venga bien. La empresa, en el otro lado de la mesa, sabe cuántas veces preguntas y sobre qué, a qué horas, desde qué aparato, con qué intervalos entre dudas, qué reformulaste y qué dejaste colgando. Con ese material te arma un perfil que predice.

Quien lo reduce a un problema de transparencia no ha entendido la mecánica. No se arregla con un banner de cookies mejor escrito. La opacidad no es una avería del modelo de negocio sino su condición de funcionamiento: si la transparencia fuera plena, el usuario decidiría con todas las cartas a la vista, la mayoría diría que no, y se vendría abajo el negocio que hay que sostener. De ahí que la transparencia que te ofrecen llegue siempre parcial, técnica, interminable, jurídicamente impecable y, en la práctica, inservible. Las políticas de privacidad de OpenAI, de Anthropic o de Google ocupan miles de palabras cada una —el recuento exacto baila con cada revisión y no me consta una fuente fiable que lo fije, así que no me aventuro con cifras—, lo suficiente para que no las lea ni quien estampa su firma. Quien las redactó cumplió de sobra el encargo, que era dejar constancia archivada de que el usuario «consintió». La coartada queda por escrito.

El golpe epistémico, que no se sacó de la manga para hacerse la profeta

En enero de 2021, en un ensayo extenso para The New York Times titulado «The Coup We Are Not Talking About», Zuboff ya le puso nombre a lo que venía: un golpe epistémico. La etiqueta suena a manifiesto y el argumento, en cambio, es seco. Durante años las grandes plataformas controlaron el acceso a la información: Google decidía qué encontrabas, Facebook decidía qué te aparecía. Pero la información seguían produciéndola otros, los periodistas, los académicos, los escritores, el vecino con algo que contar.

Con la IA generativa el control sube un piso entero. La plataforma deja de mediar entre tú y el contenido para pasar a fabricarlo ella. El chatbot te resume la actualidad, te explica el concepto que no pillabas, te da el consejo médico, te redacta el escrito. La capa intermedia, el oficio del que sabía, se atrofia por desuso, y la ventana desde la que entiendes el mundo se estrecha hasta caber en cinco o seis empresas, casi todas estadounidenses. Zuboff lo lee como un desplazamiento del lugar donde se decide qué cuenta como conocimiento y, por extensión, qué cuenta como real. Sin tanques en la calle. Más callado y más hondo que cualquier asonada.

Tienes veinticinco años, le preguntas a ChatGPT antes que a un libro, a un periódico o a alguien que sepa, y visto de uno en uno no alarma a nadie. Multiplícalo por una generación, repítelo a diario durante años, y la costumbre se convierte en otra cosa: en un cambio del procedimiento por el que una sociedad fija lo que da por sabido. Cuando até esos cabos dejé de preguntarme si Zuboff cargaba las tintas y empecé a sospechar que se había quedado prudente.

Despacharla como «anti-tecnología» es pereza disfrazada de crítica

La objeción más trillada la pinta tecnófoba, agorera, una emérita con la jeremiada siempre a punto. Quien la repite confiesa, sin darse cuenta, que no la ha leído. Zuboff no tiene nada contra la tecnología; lo tiene contra un modelo de negocio muy concreto —extraer datos personales sin negociarlos para fabricar predicciones que se venden a terceros— que colonizó la tecnología en una década que se puede fechar y a base de decisiones que se pueden señalar con el dedo.

La IA, dice ella, cabría bajo otros incentivos, y los enumera sin nostalgia. Cabría el pago directo, donde uno es cliente y no mercancía. Cabrían cooperativas en las que los datos pertenezcan a los colectivos que los generan. Cabría un servicio público con las garantías de la sanidad o la escuela. Cabría el código abierto, con los pesos y las tripas a la vista de cualquiera que sepa mirarlos. Lo que Zuboff señala no es el martillo, es la mano que paga para que el martillo golpee justo ahí. Y esa mano se financia hoy con publicidad, dato, predicción y reventa, no porque la técnica lo exija, sino por una decisión política que lleva años sosteniéndose sin que apenas nadie le pida cuentas.

Qué se mueve en tu mesa si te tomas en serio el marco

Tomarse a Zuboff en serio no es cerrar la sesión y volver al cuaderno. Es mover unas pocas cosas de sitio sabiendo de antemano que ninguna te salva del todo. Para empezar, conviene separar lo que vuelcas en chatbots públicos de lo que confías a herramientas locales: hay modelos abiertos —Llama de Meta, los de la francesa Mistral, varios de origen chino— que corren en tu propia máquina, y montarlos no es coser y cantar, pero tampoco una hazaña; para lo sensible, compensa el rato perdido. Luego está elegir el pago directo siempre que se pueda. Soltar veinte euros al mes no apaga la presión de monetizar tu dato, la rebaja, y alinea los incentivos algo mejor que el modelo gratuito de extracción a pelo.

Y queda una presunción, la más incómoda de adoptar porque no deja resquicio para el autoengaño. Da por hecho que todo prompt que escribes en la nube queda registrado, indexado y disponible para alimentar entrenamientos futuros, digan lo que digan las políticas, exista o no la casilla del opt-out. Escribe como si lo escrito no se borrara nunca, que es la apuesta segura.

Ninguna de estas cautelas nace de mi paranoia. Salen, una por una, del esquema que una profesora dibujó antes de que existiera ChatGPT y que llevamos tres años viendo cómo se confirma mientras lo usábamos sin levantar la vista.

Definiciones

Capitalismo de vigilancia. Modelo económico que se apropia de la experiencia humana como materia prima gratuita para fabricar predicciones de conducta que después vende a terceros.

Excedente conductual (en inglés, behavioral surplus). Datos sobre el comportamiento del usuario que no hacen ninguna falta para prestar el servicio, pero que se capturan igualmente y se procesan como activo predictivo.

Producto predictivo. La predicción del comportamiento futuro de una persona, empaquetada y vendida a anunciantes, aseguradoras, prestamistas u otros compradores.

Asimetría informacional. Situación en la que una parte sabe muchísimo más que la otra sobre los términos reales del intercambio. En el capitalismo de vigilancia no es un defecto subsanable, sino la condición que lo hace posible.

Golpe epistémico (epistemic coup). Concepto que Zuboff formuló en 2021 para nombrar el desplazamiento del control sobre qué cuenta como conocimiento hacia las plataformas que ya no median, sino que producen el contenido.

Prompt. La instrucción o pregunta en lenguaje natural que se le escribe a un sistema de IA generativa para obtener una respuesta.

Opt-out. Mecanismo por el que el usuario puede pedir que sus datos no se usen para una finalidad concreta —por ejemplo, el entrenamiento de modelos—, partiendo de que por defecto sí se usan salvo que uno se moleste en negarlo.

Referencias

Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (PublicAffairs, 2019, 704 páginas). Fuente de la tesis central, de la definición de excedente conductual y del marco de los productos predictivos. Ficha del libro y perfil de la autora en la web de la Harvard Business School (hbs.edu/faculty).

Shoshana Zuboff, In the Age of the Smart Machine: The Future of Work and Power (Basic Books, 1988). Referido como punto de partida de su investigación sobre tecnología y trabajo.

Shoshana Zuboff, «The Coup We Are Not Talking About», The New York Times, 29 de enero de 2021. Texto donde formula el «golpe epistémico» y sus fases. Disponible en nytimes.com.

También te interesa

• Los escalones de la IA pública. La fachada y los pisos de abajo
• La IA invisible. La que decide sobre ti sin que sepas que existió la decisión
• Epoch AI dice que los datos se agotan en 2028
• Kate Crawford, el Atlas de la IA y lo que ha contado la prensa

En otros sitios

• Surveillance Self-Defense (Electronic Frontier Foundation): protección frente a la vigilancia
• Data & Society: investigación sobre datos, poder y vigilancia