Acerca de las herramientas
Aquí encontrarás nuestras Herramientas de Algoritmos Éticos, una serie de guías, productos y normativa, creada por el GobLab UAI con el apoyo de múltiples organismos nacionales e internacionales, para apoyar la incorporación de estándares de responsabilidad a lo largo de todo el ciclo de vida de un proyecto de ciencia de datos: formulación, diseño, implementación y evaluación.
Si quieres ser parte de los pilotos, te invitamos a inscribirte en una sesión informativa, las que se realizarán mensualmente de manera virtual. El público objetivo de estas sesiones son jefaturas intermedias y profesionales que están implementando IA y ciencia de datos en el Estado. Revisa las fechas, horarios e inscríbete en una sesión informativa aquí.
Herramientas de algoritmos éticos
Ya están disponibles tres nuevas herramientas gratuitas, estandarizadas, de código abierto, en español y pensadas para la realidad chilena.
Estas tres herramientas fueron trabajadas y piloteadas durante el 2024 y 2025 por diversos proyectos y/o sistemas de instituciones públicas. Fueron desarrolladas por el equipo del GobLab UAI, gracias a fondos del concurso ANID IDeA I+D 2023 (proyecto ID23I10357), en la línea temática “Transformaciones sociales y culturales para un nuevo modelo de desarrollo”.
¿Para qué sirven las herramientas?
- Para aplicar los principios de la IA responsable a través de un proceso único en el mundo.
- Para una implementación ética y segura de estos proyectos en su Servicio.
- Para hacerse parte del Plan de Acción de la Política Nacional de Inteligencia Artificial.
- Para aplicar la circular Lineamientos para el uso de herramientas de inteligencia artificial en el sector público, enviada por el Ministerio de Ciencia y la Secretaría de Gobierno Digital.
Conoce más sobre estas herramientas en el siguiente folleto.
Experiencias Destacadas
Durante el proceso de creación y mejora de las herramientas algoritmos éticos, se realizaron pilotos de prueba en múltiples organismos de la administración del Estado de Chile. Estas instituciones utilizaron las herramientas en sus proyectos institucionales realizados con inteligencia artificial y ciencia de datos. En esta sección conocerás los testimonios de los equipos de trabajo que pilotearon las herramientas en sus proyectos.
"Las herramientas nos permitieron evaluar el impacto de este modelo de IA en los usuarios, identificar las brechas existentes y detectar aspectos críticos que requieren fortalecimiento para minimizar riesgos potenciales... La orientación detallada proporcionada es clave para planificar estrategias que permitan hacer más robusto el modelo."
"El haber contado con el apoyo del GobLab en todo el proceso de formulación, diseño, desarrollo y evaluación fue determinante, como también, el acompañarnos en todo el proceso de aplicación de herramientas disponibles de algoritmos éticos."
"La experiencia de trabajar con GobLab de la UAI fue muy valiosa. Siempre se mantuvieron dispuestos a resolver cualquier tipo de dudas o problemas de manera oportuna. Siempre existió una excelente disposición tanto para reuniones adicionales, para dar explicaciones completas y el acompañamiento constante."
"Lo más relevante es que aprendimos como institución que al trabajar con IA, la ética es muy importante para asegurarse de no afectar los derechos de los ciudadanos. Antes del proyecto Algoritmos éticos, era una dimensión que estaba fuera de nuestra órbita. Hoy en cambio, la ética en el desarrollo de la IA la tenemos fuertemente incorporada."
"Como entidad dedicada a la seguridad y la prevención del delito, valoramos profundamente la implementación de la ficha de transparencia algorítmica. Esta herramienta nos permite demostrar que es posible transparentar de manera responsable el trabajo realizado, resguardando la sensibilidad de la información."
"Nos parece que es muy importante participar de instancias de validación externa que permitan adaptarse a altos estándares de transparencia. La participación en el piloto fue muy útil para hablar en un lenguaje común con quienes desarrollan algoritmas o aplicaciones de IA."
"La herramienta incluyó mecanismos de explicabilidad del sistema, lo que posibilitó a SUSESO comprender por qué una solución desarrollada conducía a una sugerencia de decisión o resultado particular. Esto es importante para romper la opacidad de los algoritros y evitar la discriminación."
Otras Herramientas Publicadas
Normativa, herramientas y guías
Agosto 2022, en colaboración con Gobierno Digital
Guía Formulación ética de proyectos de ciencia de datos
Ver más
2023, en colaboración con ChileCompra
Bases Tipo y Directiva de Compras de proyectos de ciencia de datos e IA
Ver más
Diciembre 2023, en colaboración con Magical, BID Lab y MinCiencia
Herramienta de inversión responsable: fAIr Venture
Ver más
Agosto 2024, Colaboración con Consejo para la Transparencia
Recomendaciones del Consejo para la Transparencia sobre Transparencia Algorítmica
Pilotos finalizados
de implementación de estándares éticos
Todas las herramientas de implementación de estándares éticos presentadas en esta plataforma han sido probadas en sistemas e instituciones públicas reales, a través de pilotos desarrollados al alero del proyecto Algoritmos Éticos.
En el periodo 2020 – 2023 contamos con financiamiento de BID Lab y actualmente seguimos avanzado gracias a fondos del concurso ANID IDeA I+D 2023 (proyecto ID23I10357).
Te invitamos a conocer las experiencias y resultados de los pilotos ya realizados.
Licitación pública
Servicio de auditoría externa en base a datos
2022 – 2023, en colaboración con la DPP
Ver más
Licitación pública
Solución para seleccionar prestadores de salud a fiscalizar en Modalidad Libre Elección
2022 – 2023, en colaboración con FONASA
Ver más
Desarrollo interno
Acercando beneficios no cobrados a los ciudadanos
2023, en colaboración con IPS
Ver másProyecto Algoritmos Éticos
El proyecto Algoritmos Éticos, Responsables y Transparentes es una alianza público-privada inédita en Chile liderada por la Universidad Adolfo Ibáñez (UAI), que desde 2020 promueve la gestión ética de los datos y el desarrollo e implementación responsables de algoritmos, sistemas de decisión automatizada e inteligencia artificial.
En el periodo 2020 - 2023 el proyecto contó con financiamiento de BID Lab, el laboratorio de innovación del Grupo BID, y desde 2023 continúa su trabajo gracias fondos ANID. (Subdirección de Investigación Aplicada/Concurso IDeA I+D 2023, ID23I10357).
Actualmente los organismos que participan en el proyecto son:
| Nombre Institución | Tipo de participación |
|---|---|
| ChileCompra | Asociada |
| Secretaría Gobierno Digital | Asociada |
| Consejo para la Transparencia | Asociada |
| SUSESO | Asociada |
| IPS | Pilotos |
| Servicio Civil | Pilotos |
| MinCiencia | Patrocinador |