En este artículo
- La estructura clásica
- La IA no encaja
- El caso del usuario obligado
- La propuesta retirada
- La respuesta objetiva del fabricante
- El edificio con grietas
- El daño sin reparación
- La asimetría política
- La discusión que no llega
- La construcción nueva
Definiciones · Referencias · Para profundizar · También te interesa · En otros sitios
La responsabilidad jurídica clásica, tanto en tradición continental como en common law, requiere agente intencional. Las categorías centrales —dolo, culpa, negligencia, imputación, capacidad de culpabilidad— se han construido durante siglos sobre el presupuesto de que el actor del daño es persona con capacidad de querer y entender. La IA no lo es. No es persona, no es intencional, no es culpable en sentido jurídico. Pero los daños que produce son operativamente reales: contratos firmados con cláusulas inventadas, diagnósticos médicos errados con decisiones clínicas tomadas, decisiones de crédito que discriminan sistemáticamente, scoring administrativo que niega prestaciones a quien debería recibirlas. La salida más usada a 2026 es atribuir la responsabilidad al humano que la utilizó —solución legalmente operativa y a veces justa, pero que se desfonda en cuanto la IA actúa por delegación de la administración o del empleador. El edificio jurídico tiene grietas estructurales. Y aún no se ha movido.
La estructura clásica
La responsabilidad jurídica reposa sobre tres elementos: agente identificable, conducta atribuible, daño causado. Cuando los tres concurren con vínculo causal, hay responsabilidad. Los detalles varían entre civil law y common law, entre derecho civil y penal, entre regímenes objetivos y subjetivos, pero el esqueleto general se mantiene.
- Agente: persona física o jurídica con capacidad para actuar.
- Conducta: acción u omisión voluntaria.
- Atribución subjetiva: dolo, culpa, negligencia. Requiere intencionalidad o falta de cuidado debido.
- Daño: lesión a interés protegido por el derecho.
- Nexo causal: vínculo entre conducta y daño.
En derecho civil hay regímenes especiales que prescinden parcialmente de algunos elementos: responsabilidad objetiva (sin culpa, por riesgo creado), responsabilidad vicaria (el empleador responde del dependiente), responsabilidad por producto defectuoso. Pero incluso estos regímenes presuponen agente humano o jurídico en algún punto de la cadena. Ningún régimen clásico contempla al sistema técnico no humano como agente.
La IA no encaja
Lo que un sistema IA hace —procesar entradas, generar salidas, ejecutar acciones encadenadas, interactuar con sistemas externos— no es conducta en sentido jurídico. No hay voluntad. No hay intención. No hay capacidad de querer y entender. La doctrina jurídica clásica simplemente no admite el sistema IA como sujeto de imputación.
Esto significaba, hasta hace poco, que la responsabilidad por daños IA se redirigía al humano o entidad humana detrás del sistema:
- El fabricante del modelo, por defecto de diseño.
- El integrador, por uso inadecuado en su producto.
- El proveedor de servicio, por configuración o despliegue.
- El usuario final, por uso indebido o negligente.
La cadena funciona en casos limpios. Falla cuando la cadena se hace difícil de trazar o cuando ninguno de los nodos tiene control efectivo sobre el comportamiento concreto del sistema en el momento del daño.
El caso del usuario obligado
El caso que rompe la solución más usada —descargar al usuario— es el del usuario obligado. El médico al que el hospital impone usar el sistema con sesgos. El funcionario que aplica scoring algorítmico cuya impugnación interna está penalizada. El abogado de turno de oficio cuya carga de trabajo solo es viable con asistente. El profesor que evalúa con sistema que la administración escolar exige.
En estos casos, transferir la responsabilidad al usuario individual es legalmente operativo pero materialmente injusto. El usuario no «eligió» realmente; cumplió instrucción. La responsabilidad sustantiva está en quien impuso el uso. Pero el régimen jurídico clásico no tiene categoría adecuada para imputar específicamente a quien organizó el sistema.
El derecho administrativo y el laboral tienen herramientas parciales —responsabilidad del empleador, responsabilidad de la administración por mal funcionamiento de servicio público—. Pero estas herramientas se diseñaron para casos donde el agente operativo era humano. Su aplicación a sistemas IA gestionados por administración o empresa funciona con fricción.
La propuesta retirada
La Resolución del Parlamento Europeo de 16 de febrero de 2017 sobre normas de derecho civil sobre robótica (P8_TA(2017)0092) propuso explorar la creación de «personalidad electrónica» para sistemas autónomos: dotarlos de capacidad jurídica limitada, con patrimonio propio susceptible de responder por daños. La propuesta fue discutida intensamente y, finalmente, retirada en revisiones posteriores. Las razones del rechazo:
- Riesgo de blindaje: si la IA es responsable, el fabricante y el integrador podrían escudarse en ella, escapando a responsabilidad sustantiva.
- Falta de fundamento conceptual: la personalidad jurídica clásica (a empresas, fundaciones) se basa en intereses humanos colectivos detrás de la entidad. La IA no tiene intereses humanos colectivos identificables detrás.
- Riesgo de dilución de derechos humanos: equiparar parcialmente IA a persona riesga conceptualmente la categoría persona.
- Innecesidad operativa: los daños IA pueden, en principio, redirigirse a responsables humanos sin necesidad de crear nueva categoría jurídica.
La retirada de la propuesta dejó la cuestión donde estaba: el derecho clásico aplicado con fricción a fenómenos nuevos.
La respuesta objetiva del fabricante
La alternativa más viable, a 2026, es la responsabilidad objetiva del fabricante o del integrador. La Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos, vigor en diciembre de 2024 y transposición en curso, va en esta dirección. Incluye explícitamente software e IA. Aporta presunciones de causalidad y carga de prueba inversa para facilitar al demandante.
La doctrina de responsabilidad objetiva tiene ventajas:
- No requiere probar intención ni culpa, solo defecto y daño.
- Internaliza el coste del daño en quien tiene capacidad para diseñar mejor.
- Genera incentivo correcto: el fabricante invierte en seguridad porque pagará si falla.
- Es operativa en sistemas complejos donde la cadena de causalidad es difícil de trazar.
Sus límites:
- No resuelve el caso del usuario obligado: el fabricante responde, pero quien impuso el uso (administración, empleador) puede no responder.
- No resuelve el caso de sistemas con uso múltiple no previsible: el fabricante hizo un modelo general; el daño concreto deriva de uso vertical específico.
- No resuelve el caso de la cadena de integradores: el modelo base de fabricante A se integra en producto B de fabricante B y se usa en flujo C de organización C. ¿Quién es «el fabricante» responsable?
- Su aplicación práctica requiere capacidad probatoria significativa, asimétrica entre demandante individual y demandado corporativo.
La Directiva 2024 mejora respecto del régimen anterior pero deja casos sustantivos sin resolución clara.
El edificio con grietas
Hay tres grietas estructurales del edificio jurídico actual que vale la pena nombrar.
Grieta 1: ausencia de categoría intermedia. El derecho actual ofrece dos categorías para agentes: persona física o persona jurídica. Ambas requieren sustrato humano. No hay categoría para sistema técnico autónomo que actúa en el mundo con consecuencias. La ausencia de categoría intermedia obliga a forzar la atribución sobre humanos cuya conexión con el daño concreto es lejana.
Grieta 2: insuficiencia de la doctrina de delegación. Cuando la administración o el empleador delegan función en sistema IA, la doctrina jurídica clásica de delegación —el principal responde del agente— funciona con fricción. El sistema IA no es agente en sentido jurídico; el principal responde, pero las herramientas para precisar exactamente qué responde y cómo no están bien afinadas.
Grieta 3: opacidad técnica como obstáculo probatorio. Para que la responsabilidad opere, hay que probar el defecto. En sistemas IA opacos —caja negra, modelos con miles de millones de parámetros— probar el defecto técnico específico es operativamente difícil. La Directiva 2024 introduce presunciones para facilitar, pero la asimetría probatoria entre demandante y demandado se mantiene.
Las tres grietas se refuerzan mutuamente. Cuando concurren —caso de uso obligado de sistema opaco con cadena de integradores compleja—, la responsabilidad operativamente desaparece.
El daño sin reparación
La consecuencia material es que muchos daños IA quedan sin reparación efectiva, no porque el derecho lo permita explícitamente, sino porque la cadena de imputación no se cierra dentro de un plazo y un coste razonables para el demandante. Casos típicos:
- Decisión de crédito denegada injustamente: el afectado puede recurrir administrativamente con éxito desigual; raramente obtiene indemnización proporcional al daño.
- Diagnóstico médico erróneo con consecuencia material: el régimen de responsabilidad médica sigue aplicándose; el componente IA del error rara vez se aborda específicamente.
- Sanción administrativa basada en scoring sesgado: la impugnación suele centrarse en hechos individuales; el sistema subyacente raramente se cuestiona.
- Pérdida de oportunidad laboral por filtrado algorítmico de candidaturas: la dificultad probatoria es altísima; los casos exitosos son contados.
El daño existe; la reparación no llega. La asimetría entre realidad operativa y respuesta jurídica es estructural y no se cierra con la regulación actual.
La asimetría política
¿Por qué la respuesta no se acelera? Las razones son las habituales en innovación regulatoria sobre IA:
- Asimetría política entre actores. Los fabricantes y grandes integradores tienen capacidad de movilización política significativa. Los individuos dañados, no.
- Asimetría informacional. La complejidad técnica favorece al actor con recursos para gestionarla, en perjuicio de regulador y demandante.
- Velocidad de cambio. La regulación que se diseña hoy aborda los productos de hace dos años. Para cuando se aplica, el ecosistema ya ha mutado.
- Heterogeneidad jurisdiccional. Cada país tiene marco propio. Los actores globales operan en arbitraje jurisdiccional; los individuos no pueden.
Esto es opinión personal, pero documentable: la combinación produce un equilibrio donde la responsabilidad sin intención se discute académicamente con sofisticación, se debate políticamente con menor intensidad y se aplica en práctica con resultados modestos. La asimetría favorece a quien produce los sistemas y desfavorece a quien recibe los daños.
La discusión que no llega
Las opciones de fondo que el debate jurídico podría plantear seriamente:
1. Reconocer una categoría jurídica nueva para sistemas autónomos, con derechos y obligaciones limitadas, frente al riesgo de blindaje del fabricante. 2. Reforzar la responsabilidad objetiva del integrador con presunciones más fuertes y carga probatoria inversa significativa. 3. Establecer la responsabilidad solidaria de toda la cadena (fabricante, integrador, operador, usuario) con régimen de reparto interno entre ellos pero responsabilidad externa única. 4. Crear fondos públicos o privados de compensación para casos donde la cadena de responsabilidad no se cierra, financiados por contribución de la industria IA. 5. Establecer auditoría obligatoria de sistemas críticos con régimen comparable al de auditoría financiera, para facilitar prueba en caso de daño.
Las cinco opciones se discuten en publicaciones académicas y en propuestas regulatorias. Su implementación efectiva en regímenes nacionales es modesta. La discusión política, en la mayoría de jurisdicciones, está aún en fase exploratoria.
La construcción nueva
El edificio jurídico actual fue construido durante el XIX y consolidado en el XX para responder a daños producidos por agentes humanos identificables. Aplicarlo a sistemas IA sin reconstrucción significa forzar categorías que no encajan. La opción es entre forzar las categorías existentes —con grietas crecientes— o construir categorías nuevas —con coste político y conceptual significativo.
Las dos opciones tienen partidarios. Quienes prefieren forzar las existentes argumentan continuidad, estabilidad y costes menores. Quienes prefieren construir nuevas argumentan que sin marco adecuado, la realidad acabará por desbordar el derecho de forma menos ordenada. Ambos argumentos tienen mérito; el equilibrio dependerá de cómo evolucione la magnitud del daño no reparado durante los próximos años.
Definiciones
- Imputación: atribución jurídica de una conducta o un resultado a un agente, condición para responsabilidad.
- Dolo / culpa: dos formas de atribución subjetiva en derecho. El primero supone intención de causar daño; el segundo, falta de cuidado debido.
- Responsabilidad objetiva: régimen en el que el agente responde por el daño sin necesidad de probar dolo o culpa. Aplicado en derecho de productos defectuosos y en algunas otras áreas.
- Responsabilidad vicaria: régimen en el que el principal responde por la conducta de su dependiente. Aplicado en derecho laboral y administrativo.
- Personalidad electrónica: propuesta retirada del Parlamento Europeo (2017) para dotar de capacidad jurídica limitada a sistemas autónomos.
- Carga probatoria inversa: técnica procesal que traslada al demandado la obligación de probar la inexistencia del defecto, en lugar de exigir al demandante probar su existencia.
- EU AI Act: Reglamento (UE) 2024/1689. Marco regulatorio europeo de IA basado en niveles de riesgo.
- Product Liability Directive 2024/2853: directiva europea actualizada que incluye software e IA en el concepto de producto defectuoso.
Referencias
- Parlamento Europeo. Resolución de 16 de febrero de 2017 sobre normas de derecho civil sobre robótica, P8_TA(2017)0092. Disposiciones sobre personalidad electrónica retiradas en revisiones posteriores.
- Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos.
- Reglamento (UE) 2024/1689 (EU AI Act).
- Pasquale, F. New Laws of Robotics: Defending Human Expertise in the Age of AI. Belknap Press, 2020.
- Crootof, R. «A Meaningful Floor for Meaningful Human Control». Temple International & Comparative Law Journal 30, 2016.
- Selbst, A. D. «Negligence and AI's Human Users». Boston University Law Review 100, 2020.
- Kaminski, M. E. «Regulating the Risks of AI». Boston University Law Review 103, 2023.
- Hartzog, W. Privacy's Blueprint. Harvard University Press, 2018.
Para profundizar
- Frank Pasquale & Glyn Cashwell. «Four Futures of Legal Automation». UCLA Law Review Discourse 63, 2015. Marco que distingue cuatro escenarios posibles para la automatización jurídica con implicaciones distintas sobre responsabilidad; útil para anticipar trayectorias regulatorias.
- Madeleine Clare Elish. «Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction». Engaging Science, Technology, and Society 5, 2019. Concepto sobre cómo en sistemas socio-técnicos el humano funciona como zona de absorción de daño moral; aplicable directamente a la imputación al usuario obligado.
- Mireille Hildebrandt. Smart Technologies and the End(s) of Law. Edward Elgar, 2015. Análisis filosófico-jurídico sobre cómo las tecnologías inteligentes reorganizan los presupuestos del derecho moderno; necesario para entender la cuestión de fondo más allá de los parches normativos.
También te interesa
- El humano como cuello de botella
- Poder sin rostro
- El mercado de decisiones
- Propiedad del conocimiento generado
Comentarios0
Todavía no hay comentarios.
Deja un comentario