Autor: María José Naudon Decana Escuela de Gobierno UAI

IA y ética en la administración pública
IA y ética en la administración pública María José Naudon Decana Escuela de Gobierno UAl 1 creciente uso de la inteligencia arE ificial (IA) en la administración pública ha demostrado tener enormes beneficios. Agilizar procesos burocráticos, reducir costos administrativos, procesar grandes volúmenes de datos y ofrecer servicios mejor adaptados a las necesidades de los ciudadanos, son algunos de ellos. Ejemplos de lo anterior, son los proyectos de modelos de Machine Learning para la fiscalización de establecimientos educacionales de la Superintendencia de Educación y las torres endoscópicas con IA del Hospital Barros Luco. El primero fue diseñado para mejorar la efectividad de la fiscalización examinando una muestra, entre más de 18 mil establecimientos preescolares y escolares del país, para identificar aquellos más propensos al incumplimiento. Según la institución su efectividad, en comparación con otros criterios de fiscalización, fue del 61% en el Programa de Recursos de la Subvención Escolar Preferencial. El segundo revela el enorme aporte de la IA a la salud pública. Recientemente, el Hospital Barros Luco adquirió tres torres endoscópicas asistidas con IA para identificar casos de cáncer intestinal con mayor precisión y de manera automatizada. Según los estudios disponibles, la tasa de verdaderos positivos por lesión es del 100%. Sin embargo, estos La recopilación y el procesamiento de grandes cantidades de datos personales plantea riesgos significativos. Es fundamental que las instituciones públicas implementen medidas robustas para salvaguardar estos datos y garantizar que se utilicen de manera ética y responsable. Chile ha avanzado en la creación de un marco regulatorio que aspire a contribuir a la implementatribuir a la implementaavances plantean, tam"Estos avances ción de principios éticos bién, importantes desa plantean, también, en eluso dela. Desdela fíos y riesgos éticos. La $ academia también se posibilidad de sesgos y MPOrtantes han desarrollado prodiscriminación es uno desafíos y riesgos yectosen esta línea. Esde ellos. Los algoritmos éticos. La pacios como la plataforpueden perpetuar o in posibilidad de ma de Algoritmos Públicluso exacerbar sesgos Sesgos cos, desarrollada por el preexistentes si no se di805 y GobLab de la Universiseñan y monitorean adecuadamente.
La transparencia sobre cómo y por qué se toman ciertas decisiones es crucial para garantizar que los procesos sean justos y responsables, reforzando la legitimidad de las instituciones, consolidando la confianza pública y robusteciendo la democracia. Otro aspecto crítico es la privacidad. Otro aspecto crítico es la privacidad.
Otro aspecto crítico es la privacidad. discriminación es uno de ellos". dad Adolfo Ibáñez, alojan un detallado repositorio con más de 100 algoritmos utilizados por organizaciones estatales y ofrece herramientas concretas para la implementación ética de estos sistemas. Estos esfuerzos subrayan la importancia del vínculo entre datos, transparencia, confianza y democracia. El desafío está abierto. El desafío está abierto..