Conocer el uso de los sistemas que usan algoritmos o inteligencia artificial que pueden impactar en la vida de las personas e implementar mejores prácticas de transparencia y uso de datos personales, son parte de los objetivos del convenio de cooperación entre el Consejo para la Transparencia (CPLT) y el GobLab, laboratorio de innovación pública de la Escuela de Gobierno de la UAI. El acuerdo, que ya está en marcha, surgió como una necesidad ante el creciente manejo de datos y de herramientas de automatización, conocidas como inteligencia artificial, algoritmos y otras que apoyan la toma de decisiones en el sector público.

 

En la primera etapa, el Consejo -a través de su Dirección de Estudios- y el GobLab, se encuentran realizando un levantamiento de información que permitirá conocer la existencia y uso de este tipo tecnologías en distintas reparticiones del sector público. Ello con el objetivo de generar un catastro y posteriormente, en una segunda etapa, proponer recomendaciones para la implementación de mejores prácticas que permitan el cumplimiento de la normativa de competencia de esta entidad.

 

La Presidenta del CPLT, Gloria de la Fuente, señaló que “la automatización de las decisiones hace imperiosa la necesidad de abordar tanto la generación y recopilación de los datos como la manera en que éstos se tratan y gestionan, toda vez que de ese proceso depende la aparición o no de una serie de importantes riesgos que de no abordarse de manera oportuna y responsable, pueden resultar discriminatorios y generar importantes asimetrías de información, pues los datos que se seleccionan y la manera en cómo se tratan, pueden replicar los sesgos, estereotipos y prejuicios de quien en el mundo físico los selecciona, repitiéndose con ello esas discriminaciones en sus resultados”.

 

“De no existir claridad de cómo se construyen, implementan o interpretan los algoritmos que procesan estos datos y en base a los cuales se toman decisiones que afectan a las personas tanto en el ámbito privado como público, se abonan espacios para la manipulación de sus resultados. Por tanto, el rol que juega la transparencia en este contexto es fundamental, pues abre la posibilidad de auditar y supervisar los datos, la información que se recoge, el cómo se gestiona, analiza y, finalmente, la idoneidad y justicia de las decisiones que se toman a partir de ello”, agregó la titular de transparencia.

 

En tanto la directora del GobLab, María Paz Hermosilla, indicó que “la tecnología es una herramienta esencial para mejorar la eficiencia de los servicios públicos, proveer mejores servicios y llegar a más ciudadanos. Al mismo tiempo, muchos de estos sistemas tienen un impacto en la vida de las personas, cuando se reemplaza o se apoya la decisión que antes sólo era tomada por un humano, por ejemplo, dónde fiscalizar, o dónde y cuándo intervenir o entregar un beneficio o atención. Conocer la existencia de estos sistemas es un primer paso en la transparencia de la función pública. Esto nos permitirá avanzar en mejores prácticas de uso de datos, tecnología, algoritmos por parte del Estado, lo que se traduce en el respecto a los derechos de las personas asociados a su autonomía, privacidad, no discriminación, y finalmente mejorar su calidad de vida”.

 

Automatización de procesos en la gestión pública

Con distintos niveles de complejidad y autonomía, los sistemas de decisiones automatizadas -ya sea que respondan a reglas predeterminadas o sean de inteligencia artificial- son sistemas que se orientan a la mejor gestión pública. El uso tecnologías de reconocimiento facial; la priorización de las listas de esperas en salud; la inteligencia artificial de sistemas de atención sanitaria; la focalización de las intervenciones sociales y la asignación de cupos en colegios públicos son parte de las diversas las iniciativas públicas de automatización de procesos y de incorporación de sistemas de ciencia de datos o inteligencia artificial basadas en algoritmos o decisiones automatizadas que buscan apoyar a la administración para hacerla más eficiente.

 

Para colaborar en el desarrollo de este estudio, el CPLT ya solicitó la colaboración de cerca de 900 organismos e instituciones públicas, a nivel nacional, a través de un breve cuestionario que permitirá recopilar la información sobre la existencia y estado actual del uso e implementación de estas tecnologías. Los resultados de este trabajo se darán a conocer durante el segundo semestre.