La responsabilidad como constructo. La cadena cuelga del humano y a veces cae al suelo

La responsabilidad existe porque alguien puede pagar. Multa, cárcel, reputación arruinada. Una máquina no paga ninguna de las tres, así que la cadena de la culpa cuelga siempre de un humano. Yo creía que el problema era encontrar a ese humano. Luego entendí que el problema es otro. A veces no hay ninguno, y entonces la responsabilidad no se traslada: cae al suelo y se queda ahí, debajo del ciudadano al que el daño le tocó.

Por qué la responsabilidad necesita a alguien que pierda algo

Empecé a interesarme por esto desde la sospecha de que la palabra "responsabilidad" se usa con demasiada ligereza cuando aparece una IA de por medio. Conviene desarmarla.

La responsabilidad jurídica no es un juicio moral. Es un mecanismo de imputación que solo funciona si hay un sujeto al que se le pueda hacer daño de forma controlada: quitarle dinero, libertad, prestigio, licencia. Esa es la palanca. Sin alguien que perciba la pérdida y ajuste su conducta en consecuencia, el mecanismo gira en el vacío.

H.L.A. Hart desmontó la maquinaria en Punishment and Responsibility (1968) y su análisis sigue sirviendo. Para que alguien responda hacen falta cuatro cosas a la vez. Que haya tenido alternativas reales, no una sola salida disfrazada de decisión. Que haya podido prever lo que pasaría, porque imputar consecuencias imprevisibles vacía la idea misma de culpa. Que sea un sujeto capaz de cargar con la imputación, persona física o jurídica. Y que la sanción muerda: la multa solo aprieta a quien tiene patrimonio, la cárcel a quien tiene libertad que perder, el desprestigio a quien tiene una posición que defender.

Pásale a una IA los cuatro filtros. No elige en ningún sentido que importe moralmente. No conoce las consecuencias, las calcula. No es persona ante un tribunal. Y no hay forma de castigarla: ¿apagarla?, ¿multar al modelo? La responsabilidad clásica, sencillamente, no tiene dónde agarrarse en el sistema técnico.

De ahí sale la pregunta que recorre todo lo demás. Si la máquina no puede responder, alguien de la cadena humana tiene que hacerlo. La cuestión no es si, sino quién.

La cadena, y dónde se rompe

Usuario, operador, fabricante, Estado. Esa es la cadena de siempre, y cada eslabón puede llevarse una parte de la culpa. La IA no la rompe. La enreda.

El usuario responde cuando eligió usar el sistema y eligió cómo: uso negligente, daño causado por un instrumento que controlaba. El operador responde cuando un tercero desplegó el sistema entre el fabricante y el usuario final, y lo configuró mal, lo mantuvo mal o fijó protocolos defectuosos. El fabricante responde cuando el producto es defectuoso de fábrica: en Estados Unidos la doctrina viene del Restatement (Second) of Torts §402A (1965); en la Unión Europea, de la Directiva 85/374/CEE, actualizada por la Directiva (UE) 2024/2853. Y el Estado responde cuando impuso el sistema por norma, o cuando el daño ya no admite imputación a ninguno de los privados anteriores. En España esa figura es la responsabilidad patrimonial de la administración, regulada en la Ley 40/2015.

Hasta aquí, nada nuevo. La novedad es que la IA tensa cada uno de esos enganches hasta deformarlos.

La opacidad del modelo dificulta señalar al fabricante: probar que un defecto concreto causó el daño concreto, cuando ni los propios ingenieros saben por qué el sistema decidió lo que decidió, es casi imposible. La autonomía aparente del sistema dificulta señalar al usuario: si la máquina decidió, ¿qué controlaba él? Y la cantidad de manos por las que pasa el producto entre fabricante y usuario diluye al operador hasta que nadie en particular tiene la culpa de nada.

La cadena sigue ahí, formalmente intacta. Lo que falla es la imputación efectiva, y eso ya no se arregla con la doctrina vieja. Hay que construir doctrina nueva, y se está construyendo a velocidades muy distintas según el país.

Cuando el daño no es de nadie

El caso que me obsesiona es el del uso forzado. La administración te obliga a pasar por una IA, la IA falla, y entonces preguntas quién responde y descubres que la pregunta no tiene respuesta cómoda.

No es un escenario de laboratorio. La cita médica que solo se pide por un sistema online con triaje automático. La declaración tributaria preparada por el asistente del propio sistema oficial. La evaluación escolar pasada por una herramienta del ministerio. La solicitud de un subsidio cuya instrucción ya viene asistida y de la que no puedes salirte. Todos comparten la misma arquitectura: el ciudadano debe usar el sistema, porque la ventanilla presencial o ha desaparecido o cuesta tanto tiempo y tantas vueltas que en la práctica no existe.

Algo falla. Una denegación injusta, un cálculo erróneo, una decisión sesgada. Y se intenta recorrer la cadena.

El usuario no eligió usar el sistema, así que su responsabilidad por uso negligente es un argumento que se cae solo: no hay negligencia en el uso cuando el uso fue impuesto. El operador, que suele ser el fabricante bajo contrato público, siguió las especificaciones que le dio la administración, y su responsabilidad queda acotada por el contrato y por la diligencia técnica que cabía esperarle. La administración se ampara en la norma que ella misma dictó: la responsabilidad patrimonial exige demostrar un daño antijurídico que el ciudadano no tenga el deber jurídico de soportar, y resulta que la norma que impuso el sistema es precisamente la que articula ese deber. El círculo se cierra sobre sí mismo.

Ningún eslabón sostiene la culpa. Cae al suelo. Y allí se queda, mientras el ciudadano absorbe el daño sin reparación.

Hay un precedente que conviene tener presente para no creer que esto es del todo inédito: el daño causado por servicios públicos obligatorios, la sanidad, la educación, la defensa. Existen mecanismos de responsabilidad estatal para esos casos. Son lentos, están calibrados con prudencia extrema y resultan muy difíciles de activar para un ciudadano que va solo. Extender ese régimen al daño que causa una IA de uso forzado es trabajo doctrinal todavía pendiente en casi todas partes.

Cómo está el mapa regulatorio en 2026

Aquí toca pisar con cuidado, porque las fechas importan y la prensa las mezcló.

La Comisión Europea anunció su intención de retirar la propuesta de AI Liability Directive en su programa de trabajo de 2025, hecho público el 11 de febrero de 2025, alegando "no foreseeable agreement" entre los Estados miembros y el Parlamento. La retirada se decidió formalmente en la reunión del Colegio de Comisarios del 16 de julio de 2025, y el aviso correspondiente se publicó en el Diario Oficial de la Unión Europea el 6 de octubre de 2025. Euronews recogió la confirmación a finales de julio de 2025; IAPP cubrió la publicación de octubre. Lo cuento con este detalle porque la diferencia entre "anunciar", "decidir" y "publicar" no es pedantería: marca un proceso que duró la mayor parte de un año.

Lo que se cayó con esa directiva no era poca cosa. Habría montado un régimen específico de responsabilidad por daños de IA, con presunciones de prueba a favor del demandante y vías para acceder a la información técnica que hoy guardan los fabricantes. Sin ella, lo que queda es un mosaico.

El Reglamento (UE) 2024/1689, el AI Act, impone obligaciones a proveedores y operadores de sistemas de alto riesgo y prevé sanciones administrativas, pero no crea un régimen civil de responsabilidad por daños: castiga el incumplimiento, no repara al dañado. La Directiva (UE) 2024/2853, sobre productos defectuosos, actualiza la de 1985 e incluye por fin el software como producto, con responsabilidad objetiva del fabricante, pero le sigue exigiendo al demandante que pruebe el defecto y el nexo causal. Y por debajo, los regímenes nacionales de responsabilidad civil aplicando doctrina clásica caso por caso, con una diversidad que convierte el resultado en una lotería según la jurisdicción.

Estados Unidos opera sin doctrina federal unificada: tribunal a tribunal, estado a estado. Algunos han legislado por su cuenta. Colorado aprobó su ley de protección al consumidor frente a la IA (SB24-205) el 17 de mayo de 2024, aunque su entrada en vigor se ha ido retrasando y reescribiendo. California regula por sectores. E Illinois lleva años aplicando su ley de privacidad biométrica, la BIPA, con una jurisprudencia ya abundante.

El ciudadano europeo dañado por una IA de uso forzado se mueve, en 2026, por una zona gris: régimen fragmentado, presunciones de prueba que no le favorecen, y una carga procesal que pocos pueden permitirse cargar solos.

Cuatro huecos, y la sospecha de que alguno conviene

Que falte el sujeto al que imputar no es un accidente del régimen actual. Es una propiedad de la situación. Filippo Santoni de Sio y Giulio Mecacci la ordenaron en Four Responsibility Gaps with Artificial Intelligence (Philosophy & Technology, 2021), y distinguir los cuatro huecos ayuda a no hablar de uno cuando se está sufriendo otro.

Está el hueco de la culpabilidad: el sistema actuó, pero nadie eligió específicamente esa acción, así que no hay a quién atribuírsela en el sentido clásico. Está el de la rendición de cuentas moral: aunque hubiera alguien, la opacidad técnica impide reconstruir el proceso y exigirle que explique por qué se decidió así. Está el de la rendición de cuentas pública: el proveedor se escuda en el secreto comercial y la administración en la complejidad técnica, y nadie tiene que dar cuenta ante la ciudadanía. Y está el de la responsabilidad activa, el que más me inquieta: nadie asume el deber de prevenir el daño antes de que ocurra, porque la diligencia preventiva se reparte entre tantas manos que se evapora.

En los casos reales suelen aparecer los cuatro a la vez, superpuestos.

Y luego está Michael Da Silva, que en Responsibility Gaps (Philosophy Compass, 2024) le da la vuelta a la queja. El hueco, sugiere, puede ser también una virtud, no solo un defecto. La ausencia de un culpable claro frena el impulso de escalar el control sobre la conducta humana y de criminalizar de más. Es una posición minoritaria, y la traigo aquí precisamente porque incomoda: no todo hueco pide ser tapado a toda prisa. Tapar mal también hace daño.

La parte política, que es mía

Lo que sigue es opinión, aunque la teoría jurídica de la responsabilidad la sostiene con bastante coherencia. La IA está abriendo huecos de imputación por la forma en que está construida, no porque nadie sea malvado. Y un hueco de imputación es, antes que nada, una oportunidad de abuso: donde nadie responde, alguien hace lo que quiere. Cerrar esos huecos exige diseño jurídico nuevo. Las buenas intenciones no rellenan nada.

Apunto tres direcciones, sin pretender que sean la solución, solo por dejar el debate en algún sitio concreto.

Un régimen propio para el uso forzado, donde la responsabilidad patrimonial del Estado opere con presunciones a favor del ciudadano cuando es la administración la que impone la máquina; eso es trabajo legislativo que aún no se ha hecho. Una inversión de la carga de la prueba cuando el sistema es tan opaco que el dañado no puede demostrar nada, desplazando esa carga hacia quien sí tiene acceso a las tripas técnicas, algo que la Directiva (UE) 2024/2853 ya esboza para productos defectuosos. Y una responsabilidad solidaria de toda la cadena, que repare al ciudadano de inmediato y deje el reparto interno de la culpa para después, entre los actores: teóricamente ineficiente, prácticamente lo único que llega a tiempo.

Mientras tanto, lo verificable es esto. La Comisión retiró la AI Liability Directive en 2025, y el régimen europeo se quedó repartido entre un AI Act que sanciona pero no repara, una directiva de productos que repara pero exige al débil probar lo imposible, y veintisiete legislaciones nacionales que aplican cada una su criterio. Los huecos que Santoni de Sio y Mecacci describieron en 2021 no se han cerrado; reparten el daño hacia abajo, sobre los ciudadanos, y dejan la prevención en manos de una acción colectiva o regulatoria que va siempre por detrás del despliegue. La doctrina llegará, seguramente por acumulación de sentencias a lo largo de la próxima década. El intervalo hasta entonces es el problema. Durante ese intervalo, en una proporción de casos que no es pequeña, la culpa seguirá cayendo al suelo, y debajo seguirá habiendo alguien.

Definiciones

Responsibility gap (hueco de responsabilidad): ruptura en la cadena de imputación clásica cuando interviene una IA, de modo que el daño no puede atribuirse a ningún sujeto humano o jurídico de la forma habitual. Santoni de Sio y Mecacci (2021) lo desglosan en cuatro: culpabilidad, rendición de cuentas moral, rendición de cuentas pública y responsabilidad activa.

Uso forzado: situación en la que el ciudadano debe usar un sistema de IA porque la alternativa no existe o tiene un coste prohibitivo, normalmente porque una administración lo impone por norma.

Responsabilidad patrimonial de la administración: figura jurídica que obliga al Estado a reparar los daños causados por el funcionamiento normal o anormal de los servicios públicos. En España la regula la Ley 40/2015. Es lenta y se aplica con criterio conservador.

AI Liability Directive (AILD): propuesta legislativa europea, planteada en 2022, para crear un régimen específico de responsabilidad civil por daños de IA. La Comisión Europea anunció su retirada en febrero de 2025 y la formalizó ese mismo año.

Referencias

Hart, H. L. A. — Punishment and Responsibility (Oxford University Press, 1968). Fuente del análisis de los cuatro elementos de la responsabilidad jurídica.

Santoni de Sio, F. & Mecacci, G. — Four Responsibility Gaps with Artificial Intelligence: Why they Matter and How to Address them. Philosophy & Technology, 34(4), 2021, pp. 1057-1084. DOI 10.1007/s13347-021-00450-x. Taxonomía de los cuatro huecos de responsabilidad.

Da Silva, M. — Responsibility Gaps. Philosophy Compass, 2024. DOI 10.1111/phc3.70002. Perspectiva según la cual el hueco puede ser virtud además de defecto.

Comisión Europea — Retirada de la propuesta de AI Liability Directive: anunciada en el programa de trabajo de 2025 (11 de febrero de 2025), decidida en la reunión del Colegio de Comisarios del 16 de julio de 2025 y publicada en el Diario Oficial de la Unión Europea el 6 de octubre de 2025. Cobertura en Euronews (31 de julio de 2025) e IAPP.

Reglamento (UE) 2024/1689 — Reglamento de Inteligencia Artificial (AI Act). Obligaciones y sanciones administrativas para sistemas de alto riesgo.

Directiva (UE) 2024/2853 — Responsabilidad por los daños causados por productos defectuosos. Actualiza la Directiva 85/374/CEE e incluye el software como producto.

Colorado SB24-205 — Consumer Protections for Artificial Intelligence Act. Firmada el 17 de mayo de 2024; entrada en vigor sucesivamente retrasada y reformada.

Para profundizar

Honoré, T. — Responsibility and Fault (Hart Publishing, 1999).

Pasquale, F. — The Black Box Society (Harvard University Press, 2015), sobre opacidad algorítmica.

Floridi, L. — The Ethics of Information (Oxford University Press, 2013).

También te interesa

• El delito sin intención
• Puede una IA ser responsable
• La responsabilidad difusa
• La obligación silenciosa

En otros sitios

• Stanford Encyclopedia of Philosophy: Ethics of Artificial Intelligence and Robotics
• OECD.AI Policy Observatory: políticas y regulación de IA por país