El Tribunal Supremo ha resuelto que el Gobierno deberá dar acceso al código fuente de Bosco, el algoritmo que asigna el llamado bono social, las ayudas estatales para el pago de la factura de la luz. La sentencia es la respuesta a un recurso de casación interpuesto por la Fundación Ciudadana Civio, que obtuvo la negativa de la Administración para abrir Bosco en instancias previas. Es la primera vez en España que los tribunales deciden que se conozcan los detalles del funcionamiento de un algoritmo que gestiona bienes públicos.
“El derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que entraña el uso de las nuevas tecnologías en el ejercicio de las potestades públicas o la prestación de servicios públicos”, lee la sentencia, “especialmente cuando tienen por objeto el reconocimiento de derechos sociales”.
El Ministerio de Transición Ecológica y Reto Demográfico denegó a Civio esa posibilidad en reiteradas ocasiones. “No consideramos necesario que haya que otorgar acceso al código fuente para reclamarle posibles responsabilidades a la Administración”, dijo el abogado del Estado que defendía al Gobierno durante la vista del Supremo, celebrada en el mes de julio.
El Supremo opina lo contrario. En la sentencia explicita que Bosco “comprende un algoritmo o código fuente que pretende ser una traducción a lenguaje informático de las disposiciones normativas que regulan los requisitos que deben cumplir los consumidores para el reconocimiento en su favor del bono social”. En consecuencia, “la Sala estima trascendentes las características y la función atribuida a la aplicación Bosco, así como el fin al que sirve, a la hora de ponderar la relevancia pública de la información a la que pretende acceder Civio”.
Una investigación de Civio reveló en 2018 que el llamado bono social, un paquete de ayudas estatales destinadas a familias vulnerables que supone una rebaja en la factura de la luz, no llegaba a personas que reunían todos los requisitos para recibirlo (entre ellos, acreditar bajos ingresos, ser víctima de violencia de género o de violencia terrorista). Los beneficiarios del programa eran seleccionados por un algoritmo llamado Bosco, que filtraba y cruzaba datos de las familias y asignaba la ayuda. Bosco aportaba a las comercializadoras de energía una lista con los beneficiarios de la ayuda para que les aplicaran el descuento financiado por el Gobierno.
Civio descubrió que el algoritmo había fallado. La Administración reconoció su error, pero no accedió a abrir el código fuente del algoritmo, es decir, a mostrar las tripas del programa, por lo que no se pudo comprobar dónde estaba el error. Los activistas recurrieron al Tribunal de lo Contencioso Administrativo, pero este concluyó que liberar el código violaría el derecho a la propiedad intelectual del algoritmo que ostenta el Gobierno, y que su publicación afectaría también tanto a la seguridad pública como a la defensa nacional. Civio escaló la demanda a la Audiencia Nacional y, tras encontrarse de nuevo con una negativa, al Supremo, que ahora le da la razón. El Ministerio que dirige Sara Aagesen ha preferido no hacer declaraciones a EL PAÍS sobre la sentencia.
Un paso hacia la transparencia algorítmica
Uno de los argumentos del Gobierno para no abrir el código fuente de Bosco era que, al hacerlo, podría poner en peligro el propio funcionamiento del programa. El Supremo no lo ve así. Dice en la sentencia a propósito de desvelar el funcionamiento del algoritmo que “la transparencia sobre el mismo puede contribuir (…) a la mejora del código y fortalecimiento de su seguridad, puesto que, por un lado, incentiva a la Administración a extremar las cautelas de seguridad en el propio diseño y control del programa informático y, por otro lado, su escrutinio por actores diversos e independientes permite aflorar vulnerabilidades inicialmente inadvertidas y posibilitar su corrección temprana”.
El tribunal anula también otro de los motivos que esgrimió el Gobierno para no abrir el algoritmo: que, al hacerlo, podría poner en peligro datos personales de los beneficiarios de las ayudas. “Constatamos que en el supuesto que nos ocupa la información pública a la que se ha solicitado el acceso [el código fuente de Bosco] no contiene o incluye datos personales de los solicitantes”, en tanto que el algoritmo es simplemente la receta que establece las condiciones de recepción de la ayuda (no contiene base de datos alguna).
“Estamos contentísimos. No solo porque hoy acaba una lucha que iniciamos en 2018, sino también porque la sentencia abre camino y crea jurisprudencia para todos los casos que vienen”, apunta Eva Belmonte, codirectora de Civio. “La Administración utiliza cada vez más sistemas automatizados o de inteligencia artificial que, ahora mismo, no pasan ningún control independiente. La única forma de vigilar que no haya arbitrariedades ni sesgos es acceder al código fuente”, añade.