Desafíos actuales de la Inteligencia Artificial

270 Desafíos actuales de la Inteligencia Artificial esta revisión automatizada es verificar la validez de las solicitudes y reducir la necesidad de que los solicitantes recurran al sistema judicial, aliviando así su carga. Tras la denegación de una solicitud por parte del INSS, la IA analizará el caso para determinar la viabilidad de la solicitud, fomentando una interacción preliminar entre el solicitante y la AGU antes de que se recurra a los tribunales. La AGU utilizará los datos de las solicitudes y la IA, que opera de acuerdo con normas específicas de toma de decisiones, para evaluar si la solicitud puede ser aceptada y, en consecuencia, concedida la prestación. No obstante, existen preocupaciones dentro de la autarquía de que la IA pueda reproducir injusticias debido a las normas imple- mentadas. Por este motivo, agentes de la AGU también participarán en el proceso, garanti- zando una evaluación más justa y equilibrada (Portal Contábeis, 2024). Esta medida responde a la intención de corregir las deficiencias identificadas por una auditoría de la Oficina del Interventor General. La auditoría evaluó los procesos entre 2021 y 2023, aunque la automatización comenzó en 2017. Desde entonces, el número de pres- taciones analizadas automáticamente ha aumentado considerablemente, y para 2022 ya se contaban más de 1,3 millones de análisis de este tipo. De estos, 869.000 resultaron en la denegación de la solicitud, es decir, aproximadamente dos de cada tres. Esta proporción es significativamente superior a la observada en los análisis manuales, en los que se rechazó el 50 % de las solicitudes. Se ha detectado que la tasa de rechazo ha aumentado en paralelo al incremento del volumen de análisis. Por ejemplo, en 2021, cuando se evaluaron automática- mente 490.000 solicitudes, solo se rechazó el 41 % (G1, 2023). Con el creciente uso de sistemas de IA para tomar decisiones técnicas en la Administra- ción Pública, destaca el análisis de Brochado (2023, pp. 528-529) sobre la urgente necesidad de debatir programas de aprendizaje automático. Según el autor, el sistema probabilístico que permite la autonomía operativa de estas máquinas es incontrolable y es en esta naturaleza de los programas donde radica su eficacia distintiva. Brochado (2023, pp. 502/512-513) también señala la auditabilidad de estos sistemas como uno de los mayores desafíos para la legislación brasileña, y destaca la importancia de comprender claramente el proceso de adopción de las normas decisorias y de mantener la transparencia en las técnicas estadísticas utilizadas para entrenar los algoritmos. El lenguaje, que puede ser traducido y procesado por máquinas, transmite patrones de información organizados en «paquetes» que pueden ser utilizados por diversos agentes de control social, alineados con los dispositivos burocráticos del Estado. En paralelo, Frazão (2021) analiza el «derecho a la explicación» en Brasil, basado en el artículo 20 de la Ley General de Protección de Datos (LGPD), que otorga a los ciudadanos el derecho a solicitar una revisión de las decisiones basadas exclusivamente en el tratamiento automatizado de datos personales que afecten sus intereses, incluidas aquellas que definen perfiles personales y profesionales. De manera similar, el artículo 5 de la Carta Ética Europea sobre el Uso de la Inteligencia Artificial en los Sistemas Judiciales establece que los profesionales del sistema judicial deben tener la capacidad de revisar las decisiones y los datos utilizados para emitir un veredicto, sin estar necesariamente vinculados a ellos, tomando en cuenta las particularidades de cada caso (Comisión Europea para la Eficiencia de la Justicia, 2018).