Desafíos actuales de la Inteligencia Artificial

186 Desafíos actuales de la Inteligencia Artificial 1. INTRODUCCIÓN La era de la interdependencia digital 1 y la evolución súbita de las nuevas tecnologías disruptivas como la inteligencia artificial (IA), basadas en el análisis de multitud de datos y en los procesos automáticos que confunden la información con el conocimiento, obliga al humanismo tecnológico a construir una democracia que equilibre la utilización de la IA en la toma de decisiones judiciales con el uso ético de los datos e instrumentos algorítmicos que los gestionan a fin de poder advertir los potenciales riesgos, oportunidades y desafíos que los avances tecnológicos, aun en la imaginación de nuestras mentes, pronto podrían llegar a producir en la Humanidad. La idea utópica de jueces robots autónomos fundamentando sentencias judiciales de forma rápida y eficaz mediante el procesamiento de multitud de datos y precedentes ju- diciales sin errores sistemáticos o sesgos humanos 2 , plantea un dilema de extraordinaria importancia que excede el ámbito técnico y que aconseja ser abordado desde un punto de vista normativo, filosófico e incluso político. Aunque los avances tecnológicos nunca han ido de la mano de la Administración de Justicia y se han incorporado al proceso judicial con un evidente retraso, durante los últimos años son varios los trabajos doctrinales y aca- démicos que abordan la posibilidad de que algún día un juez algorítmico pueda llegar a sustituir a un juez humano 3 . En cualquier caso, las dudas sobre la responsabilidad en la toma de decisiones ju- diciales injustas mediante el uso de la IA, la falta de imparcialidad e independencia, los sesgos discriminatorios que son inherentes a los datos de entrenamiento que procesa un algoritmo, el efecto black box en su diseño y funcionamiento 4 o la ausencia de empatía humana en la aplicación de la ley podrían llegar a convertir a los sistemas de IA en los verdaderos sujetos en la toma de decisiones judiciales y conculcar los derechos funda- mentales de los ciudadanos, de ahí que todas estas cuestiones merezcan la atención de cualquier jurista, obligado no solo a resolver conflictos, sino a anticiparse a los problemas y ofrecer soluciones 5 . 1 Informe final de El Panel de Alto Nivel sobre la Cooperación Digital, establecido por el Secretario General de las Naciones Unidas en julio de 2018. 2 FERNÁNDEZ, Carlos: “¿Se pueden evitar los sesgos en la Inteligencia Artificial?”, Diario La Ley. 2021. 3 La posibilidad de aplicar la IA en los procesos judiciales no tuvo un especial interés por parte de la doctrina cien- tífica en un primer momento, si bien durante los últimos cinco años, esta ya es recurrente y pueden destacarse multitud de trabajos en la materia. 4 Libro Blanco sobre la Inteligencia Artificial: un enfoque europeo orientado a la excelencia y la confianza euro- pea. Bruselas, 2020. 5 REBOLLO DELGADO, Lucrecio: Inteligencia artificial y derechos fundamentales, Colección IA, Robots y Bioderecho, Editorial Dykinson. 2023. pp. 14