SEÑOR IA, SU ALGORITMO ME HA CONDENADO INJUSTAMENTE

Artículos Doctrinales
28 de Marzo de 2025

El uso de sistemas dotados de IA que adopta decisiones de forma autónoma lleva a plantearse muchas dudas sobre la asunción de la responsabilidad por los daños generados por dichas acciones. En primer lugar, hay que determinar quién es el sujeto responsable, en segundo lugar, si la autonomía del sistema de IA puede dotarle de una propia personalidad jurídica y patrimonio con el que responder o debe hacerlo un tercero. La objetivación de la responsabilidad por hecho ajeno es la solución más justa para que las víctimas puedan ser resarcidas en su reclamación para ello se analizan las culpas in vigilando, in educando y culpa in eligendo asimilando por analogía la responsabilidad por sistemas de IA con la responsabilidad extracontractual actualmente existente en el sistema legislativo español. Es especialmente relevante observar la situación de los vehículos autónomos cuya regulación puede servir de antesala y ejemplo de lo que se avecina en los sistemas de IA. La Administración de Justicia tiende a la mejora y eficiencia y se cuestiona el uso de programación algorítmica en el dictado de resoluciones y la asunción de responsabilidad en el caso de dictado de resoluciones injustas.

Palabras clave
Responsabilidad vicaria, equivalencia funcional, culpa in eligendo, culpa in vigilando, culpa in educando, responsabilidad aquiliana.
Abstract

The use of systems equipped with AI that make decisions autonomously leads to many doubts regarding the assumption of responsibility for the damages generated by said actions. Firstly, it is necessary to determine who is the responsible party, secondly, whether the autonomy of the AI ​​system can provide it with its own legal personality and assets with which to respond or a third party should do so. The objectification of responsibility for another's act is the fairest solution so that the victims can be compensated in their claim. For this, the fault in monitoring, in educating and fault in choosing is analyzed, assimilating by analogy the responsibility for AI systems with the responsibility extracontractual law currently existing in the Spanish legislative system. It is especially relevant to observe the situation of autonomous vehicles, whose regulation can serve as a prelude and example of what is coming in AI systems. The Administration of Justice tends towards improvement and efficiency and the use of algorithmic programming in the issuance of resolutions and the assumption of responsibility in the case of issuance of unjust resolutions is questioned.

Key Words
Vicarious liability, functional equivalence, guilt in choosing, guilt in watching, guilt in educating, aquilian responsibility.