Vea También
Cuando, en el municipio extremeño de Almendralejo, un numeroso grupo de niñas fueron víctimas de montajes pornográficos elaborados por otros adolescentes mediante el uso de inteligencia artificial, las dañinas consecuencias no se habrían manifestado si el propio sistema de IA hubiera actuado de forma preventiva. Debería haber detectado que se habían volcado imágenes de personas menores de edad y estaban siendo manipuladas, impidiendo que se elaboraran los montajes.
Es solo un ejemplo de cómo el uso indebido de la IA puede generar daños de diversa naturaleza, muchos de ellos contra bienes jurídicos importantes (la seguridad, el honor, la privacidad, la salud o, incluso, la propia democracia).
En este caso, la justicia impuso a los implicados, además de penas de libertad vigilada, el pago de una suma como compensación a las víctimas. No obstante, la indemnización no deja de ser un remedio esencialmente pecuniario que, a veces, no satisface plenamente determinados daños como los morales o personales. Ni soluciona muchos de los problemas que se ponen de manifiesto en el círculo de los perjudicados.
Mejor prevenir que curar
Tradicionalmente, el sistema jurídico español ha adoptado como solución al daño la indemnización por daños y perjuicios. Sin embargo, el reciente Reglamento europeo de Inteligencia Artificial ofrece un cambio de paradigma, centrado en la prevención del daño a eventuales víctimas y minimizando la probabilidad de causar consecuencias negativas a la sociedad.
Parte de la premisa de que la IA supone riesgos y, consecuentemente, perjuicios para los intereses públicos y derechos fundamentales, ya sean físicos, psíquicos, sociales o económicos. Y señala la prevención como algo más deseable que la tradicional reparación indemnizatoria.
Ante este panorama, el sistema jurídico español afronta un claro desafío: pasar de la sanción a la prevención mediante la implementación de nuevos principios de naturaleza ética.
Como recoge nuestro estudio, realizado en la Universidad de Cádiz, algunos mecanismos que pueden utilizarse para lograrlo son el cumplimiento de normas (compliance), el trato justo, la responsabilidad proactiva, la apuesta por la seguridad, la transparencia y la vigilancia, el control, la evaluación y la gestión del riesgo. La sociedad demanda cada vez más comportamientos éticos que traspasen las fronteras de nuestro sistema jurídico, basado principalmente en la consecuencia sancionadora.
El espíritu de la prevención ya se introdujo en el Código Penal español con la admisión de la responsabilidad penal de las personas jurídicas, creándose todo un sistema de exoneración de dicha responsabilidad si se adoptaban una serie de mecanismos preventivos basados en el compliance. Ahora, nuevamente, el Reglamento europeo apuesta por esta herramienta ante el uso indebido de la tecnología.
El papel de los sistemas de compliance
El compliance, un concepto de origen angloamericano, significa “cumplimiento”. Pretende prevenir el riesgo de causar una consecuencia negativa (una sanción, un daño) mediante el empleo de una determinada metodología y una serie de medidas como la supervisión, vigilancia y control del cumplimiento de las normas.
En el ámbito penal, es donde el compliance se encuentra más extendido. Es utilizado por organizaciones y entidades para prevenir el riesgo de incumplimiento del ordenamiento penal que pueda traer como consecuencia la consumación de determinados delitos.
También promueve el comportamiento ético de las corporaciones y una sociedad más comprometida con los intereses generales. Y es que una eficaz política de compliance previene el riesgo de que se produzcan consecuencias negativas para el interés general (por ejemplo, que una industria cometa un desastre ecológico).
Un cambio en las instituciones jurídicas
Implementar el Reglamento de IA europeo es todo un desafío para el ordenamiento jurídico español, que se encuentra anclado en la reparación indemnizatoria y, de momento, no ofrece una regulación concreta que determine un sistema de responsabilidad civil fundado en la prevención del riesgo.
Desde la doctrina científica se viene reflexionado acerca de esa necesidad de cambio de paradigma, en el que prevalezca la prevención del daño mediante la implementación de medidas de seguridad, supervisión y control, basadas en el cumplimiento estricto de las normas, estándares y ética (compliance), para así evitar los riesgos dañosos que pueden transferirse del uso descontrolado de la inteligencia artificial.
El ser humano, en el centro de la norma
Para que esto ocurra, se deberá replantear un cambio de postulados, teniendo en cuenta, además, el espíritu y la sociedad en los que se inspira nuestro sistema general de responsabilidad civil (el Código Civil español es de 1889). Un cambio necesario que se ha de centrar en las eventuales víctimas y en su derecho a la plena indemnidad. Y esto solo se garantiza plenamente con la ausencia de riesgos y no con la indemnización.
La nueva realidad demanda unas normas cada vez más centradas en la persona, que sustituyan a aquellas que se centran más en la patrimonialización humana, sus bienes y sus derechos.
Por lo tanto, el legislador nacional debe invertir más esfuerzos en la reformulación de los postulados tradicionales del derecho de daños, en los que no solo se promueva la prevención del daño frente a otras consecuencias menos deseables, sino que también se regule de forma detallada un sistema de responsabilidad civil basado en la prevención y el cumplimiento de las normas.
Ese cumplimiento normativo, propio de una sociedad más ética, justa y comprometida, es un mecanismo eficaz para evitar resultados lesivos o negativos y se configura como una garantía de los derechos de las personas y de la protección de los bienes jurídicos más importantes como la vida, la libertad, la igualdad, la integridad, la seguridad, la salud, la democracia y otros derechos fundamentales.
Juan Carlos Velasco-Perdigones recibe fondos derivados del Proyecto de Investigación “EL CONTRATO DE PRESTACIÓN DE SERVICIOS EN EL ACTUAL ENTORNO TECNOLÓGICO Y SOCIAL” (PID2021 – 1226190B-I00), financiado por MCIN/AEI, con DOI 10.13039/501100011033 y por FEDER "Una manera de hacer Europa”.
Este artículo fue publicado originalmente en The Conversation. Lea el original.