Modelo predictivo de sugerencia para la resolución de reclamos de licencias médicas

La Superintendencia de Seguridad Social (SUSESO) busca abordar un problema central relacionado con la eficiencia y la oportunidad en la gestión pública, en específico busca apoyar el proceso de resolución de reclamaciones de licencias médicas. El volumen de requerimientos ciudadanos creció exponencialmente, pasando de 50.000 reclamaciones anuales durante los años 2015-2019, a 200.000 reclamaciones entre 2020 y 2024, sin un aumento proporcional de dotación, lo que generaba demoras críticas en los plazos de resolución, pudiendo llegar a 120 días en resolver una reclamación y una acumulación de casos de casi 50.000.

La aplicación de la ciencia de datos y la inteligencia artificial en la SUSESO implica desafíos éticos significativos, debido a la naturaleza sensible de los datos involucrados y el impacto directo que las decisiones tienen en la vida de los ciudadanos. De los desafíos éticos en la aplicación de IA para el proceso de reclamaciones de licencia médica, podemos detallar:

• Protección de datos personales y uso responsable: El manejo de un volumen tan grande de datos, muchos de ellos sensibles, implicaba un estricto rigor en la gestión y protección de la información nominada. La información debe ser conocida sólo por los usuarios titulares de los datos o por profesionales con la competencia necesaria, bajo estrictas medidas de seguridad. Los organismos públicos deben adherirse a marcos normativos exigentes, asegurando el respeto de las garantías y derechos fundamentales de los ciudadanos. El uso de datos debe ser responsable, ético, legal y seguro, en línea con lo instruido en la reciente Ley 21.719 que modifica la Ley 19.628, que regula la protección y tratamiento de los datos personales (aún en periodo de vacancia legal).
• Impacto de las decisiones: El modelo busca resolver procedimientos administrativos que afectan directamente la vida de las personas, determinando si se les otorga un beneficio, se les fiscaliza o se resuelve un reclamo. La decisión no es trivial, ya que afecta directamente los ingresos de las personas que se ven impactadas por una contingencia de salud, contexto en el cual no es un modelo que reemplace la decisión sino que apoya en la adopción de la misma.
• Sesgos estadísticos: Los modelos de IA aprenden de datos históricos. Estos datos históricos de resolución de reclamaciones, fueron generados por funcionarios y funcionarias, los cuales contienen sesgos, que pueden ser conscientes o inconscientes. El modelo puede replicarlos o incluso amplificarlos, es necesario reconocer y explicar estos sesgos, entendiendo que no todos pueden eliminarse si reflejan la realidad de los datos o el funcionamiento del negocio, pero aquellos que constituyan discriminación arbitraria deben ser eliminados.
• Transparencia y explicabilidad de los modelos: Existe la preocupación de que los modelos de IA funcionaran como una "caja negra", donde no se puede comprender cómo se llegó a una decisión. Por esto es importante que las decisiones de los algoritmos sean explicables y auditables, para generar confianza y legitimidad, tanto en los profesionales internos, como en la ciudadanía.

Los modelos están desarrollados, entrenados y en condición de ser utilizados. Ya se han piloteado, con porcentaje de predicción en determinados tramos superior al 90%.

Lo más relevante de este Proyecto no son solo sus resultados, sino que haber asumido el desafío de cumplir con los estándares legales y éticos que implica un modelo predictivo de sugerencia: uso de bases tipo para adquisición de algoritmos públicos, aplicación de herramientas para transparencia algorítmica, evaluación de impacto y medición de sesgo, aplicación de medición de confianza por usuarios, medición de nivel de adopción.

En tal sentido, el haber contado con el apoyo del Gob Lab en todo el proceso de formulación, diseño, desarrollo y evaluación fue determinante, como también, el acompañarnos en todo el proceso de aplicación de herramientas disponibles de algoritmos éticos.

• Liderazgo y Patrocinio de Alta Dirección: El involucramiento directo y el liderazgo de la jefa o jefe de servicio es el factor clave de éxito. La Superintendenta fue quien lideró y motivó los proyectos, buscando alianzas y empujando la explotación de los datos. Adicionalmente creó el Comité de modernización, innovación y proyectos estratégicos de la superintendencia, que tiene como principales funciones:
  • Revisar el avance de los proyectos y tomar conocimiento de estos.
  • Proponer medidas de mitigación de riesgos respecto a la situación de los proyectos.
  • Retroalimentar desde los dominios de cada área el desarrollo de los proyectos.
  • Proponer, en el marco de los convenios suscritos por cada uno de los proyectos, posibles redireccionamientos o revisión de las planificaciones de estos.
• Formulación Correcta de Proyectos: Una buena formulación es la base del éxito. Las bases tipo para la adquisición de algoritmos públicos, desarrolladas por la DIPRES y generadas en conjunto con Goblab, fueron una herramienta fundamental para estandarizar y asegurar la calidad en la formulación, obligando a considerar etapas como la medición de sesgo, en el desarrollo del proyecto.
• Gestión del Sesgo: Se reconoce que los sesgos pueden existir en los datos históricos. La estrategia es primero conocerlos y luego explicarlos, y si corresponden a una manifestación de discriminación arbitraria, se toman las medidas necesarias para omitirlos del modelo. En otros casos, se buscan formas de mitigarlos o ponderarlos.
• Importancia de los Pilotos y Testeos: Antes de implementar a gran escala, es crucial probar y testear modelos en un entorno real para identificar el que mejor se comporta.
• Alianzas Estratégicas: Es recomendado generar alianzas con otras instituciones y expertos (como la UAI, el Laboratorio de Gobierno, el Ministerio de Hacienda, ANID) para acceder a la experiencia, conocimiento, financiamiento y herramientas necesarias para implementar proyectos de IA de forma ética, transparente y efectiva, asegurando que se ajusten a los estándares legales, sean eficientes y beneficien a la ciudadanía.

El modelo fue integrado a la plataforma que soporta el procedimiento administrativo electrónico (PAE). Gracias a este esfuerzo, ya se encuentra en condiciones de activar su uso, en modalidad de sugerencia, por parte de los profesionales de la Superintendencia.

Se ha planificado una consultoría con el BID (Banco Interamericano de Desarrollo) para medir el nivel de adopción y uso de las sugerencias que el modelo les proporciona. Esto ayudará a entender si la herramienta realmente les es útil, si está mejorando su trabajo, y si se traduce en una mayor eficiencia y satisfacción del usuario.

Otro paso importante es seguir mejorando la explicabilidad del modelo, con el fin de dar compresión al por qué el modelo sugiere una u otra decisión. No trabajamos con "cajas negras", siempre buscamos que la lógica del algoritmo sea clara y explicable. Esto nos permite asegurar que el uso de los datos sea responsable, ético, legal y seguro, y que los factores clave que llevan a un resultado se puedan identificar y, si es necesario, modificar los parámetros que determinan una decisión.

La experiencia de la SUSESO al trabajar con el GobLab de la UAI ha sido muy positiva, considerándolos un partner estratégico para el avance en el desarrollo de inteligencia artificial y ciencia de datos.La colaboración fue crucial para abordar aspectos importantes de la utilización de datos personales, los aspectos éticos y el sesgo estadístico en los modelos.

La UAI acompañó desde el proceso de redacción de las bases de licitación, hasta la generación de la ficha de transparencia algorítmica. Las "bases tipo" de licitación, desarrolladas con la UAI, establecen exigencias vinculadas a la evaluación de impacto, transparencia algorítmica y medición de sesgos estadísticos, obligando a los proveedores a incorporar estas etapas en sus proyectos.

El uso de las herramientas de algoritmos éticos, incorporan los estándares de responsabilidad a lo largo de todo el ciclo de vida del proyecto de ciencia de datos. SUSESO fue pionera en pilotar estas herramientas, como la Ficha de transparencia y la Medición de sesgos y equidad, aportando valiosa retroalimentación para el perfeccionamiento del modelo.

Consideramos esencial que todos los organismos públicos que se embarquen en proyectos de ciencia de datos se sumen al uso de estas herramientas, fundamentalmente pensando en la relevancia del análisis de impacto, transparencia, sesgo y equidad, contrafactuales y mecanismos de explicabilidad, todo lo cual es determinante para el éxito de los proyectos, para romper la opacidad y evitar la discriminación, buscando como resultado esperado aislar los efectos no deseados, mitigar los riesgos y tener plena conciencia y responsabilidad de lo que implica el respeto de las garantías fundamentales y derechos de las personas, poniendo en el centro de las soluciones generadas, el bienestar de las personas y la seguridad de su información.