.es

Ponentes:

•  Senén Barro Ameneiro, Director CiTIUS-Centro Singular de Investigación en Tecnologías Inteligentes. Universidad Santiago de Compostela, Consejero Académico de Fide
•  Francisco Pleite de Guadamillas, Magistrado y doctor en Derecho. Ha sido profesor de la Universidad Carlos III, la Universidad de Sevilla y la Universidad Pablo de Olavide.

Moderador:

•  Raul Rubio Velázquez, Socio en Pérez-Llorca Abogados, S.L.P.

Objetivos:

Es indudable que los avances tecnológicos en el tratamiento de datos y su procesamiento automatizado a través de algoritmos van suponiendo la sustitución en cierta medida de los humanos en la toma de decisiones sobre nuestras vidas. Desde la concesión de un préstamo, el acceso a las ayudas sociales, hasta adquirir plaza en la universidad o la pena de cárcel por riesgo de reincidencia se puede apoyar en procesos automatizados. Casos como la utilización del algoritmo COMPAS que Wisconsin y otros estados de Estados Unidos usaban para determinar el riesgo de reincidencia o lo sucedido en Países Bajos que, en enero de 2021, provoco la caída del Gobierno neerlandés con el denominado asunto de las “prestaciones” en el que el Gobierno neerlandés para detectar fraudes utilizaba un sistema automatizado que analizaba posibles indicios de fraude, más de 20.000 familias fueron acusados por error de cometer fraude con las prestaciones por cuidado de los hijos. La automatización de las decisiones plantea una serie de interrogantes, tanto desde el punto de vista del derecho como desde la ética y la política, que se deben afrontar.Los procesos de automatización, también, en nuestro país son cada vez más utilizados por las Administraciones públicas para la toma de decisiones. Es el caso de la aplicación informática BOSCO, desarrollada por el Ministerio para la Transición Ecológica para que las empresas comercializadoras de energía eléctrica puedan comprobar si los solicitantes del bono social cumplen con los requisitos legales para tener la consideración de consumidor vulnerable. Estos programas funcionan con un código fuente que contiene las directrices precisas que le dicen a la computadora cómo llevar a cabo tareas específicas. En estos procesos en los que se utilizan determinados programas los ciudadanos que ven denegadas sus solicitudes en base al programa, se pueden encontrar indefensos si no se desvela su funcionamiento, que, supuestamente, aplican las normativas. Es decir, si no se tiene acceso al código fuente.En la sentencia de 11 de septiembre de 2025 (rec. casación 7878/2024) dictada en el recurso de casación número 7878/2024, la Sección Tercera de la Sala de lo Contencioso-Administrativo del Tribunal Supremo declara haber lugar al recurso de casación, casa y anula la sentencia de la Sala de lo Contencioso-Administrativo de la Audiencia Nacional y, resolviendo las cuestiones y pretensiones deducidas en el proceso, revoca la sentencia del Juzgado Central de lo Contencioso-Administrativo y estima, en su lugar, el recurso contencioso-administrativo presentado por la Fundación Ciudadana Civio contra la resolución del Consejo de Transparencia y Buen Gobierno, declarando su derecho al acceso al código fuente de la aplicación informática BOSCO, con la consiguiente condena a la Administración del Estado a facilitárselo.La sentencia reconoce a la Fundación Civio que se le permita acceder al código fuente de un algoritmo creado por la Administración en cuanto que sirve para la toma de decisiones que afectan, en este caso, a personas vulnerables.En la sesión se analizarán los conceptos y derechos como el derecho a una explicación comprensible que reconoce la sentencia y las consecuencias que puede tener en otros supuestos, así como funciona la toma de decisiones en un programa automatizado y los riesgos que puede entrañar el acceso al código fuente. Finalmente, se expondrán propuestas para control de los procesos automatizados.