Desafíos actuales de la Inteligencia Artificial

La inteligencia artificial en el ejercicio de la función jurisdiccional 195 justa mientras que los sistemas de IA solo podrían complementar la labor judicial, liberando al juez de trabajos automatizados y estandarizados como la traducción de textos, el análisis de datos o la síntesis de información para centrar todo su talento y capacidad jurídica en la búsqueda de soluciones justas alejadas de la objetividad de silogismos que únicamente llegan a soluciones necesarias e inexorables fruto de patrones que no garantizan la idea de justicia. En otro orden de cosas, el uso de algoritmos puede impactar negativamente en la impar- cialidad y garantías procesales que han de observarse a lo largo de cualquier procedimiento judicial, ya sea porque los algoritmos presentan sesgos desde su creación y diseño o bien por- que su uso quedase al margen del control y supervisión humano. No obstante, estos riesgos no impiden que, establecidas las cautelas necesarias, los sistemas de IA puedan sean utilizados para apoyar y complementar la función jurisdiccional siempre que se permita el acceso a su diseño y contenido a los miembros de la Carrera Judicial asi como a los justiciables. En definitiva, los sistemas de IA son esclavos de su propio algoritmo, buscando patrones que se repiten y que les impide hacer algo que su algoritmo les prohíbe, por lo que en el ámbito judicial es deseable que el uso de los instrumentos de IA esté necesariamente ligado únicamente a apoyar y complementar la toma de decisiones judiciales, previa supervisión y evaluación ex ante y ex post por parte de los Jueces y Magistrados que conozcan de un deter- minado asunto. A tal efecto, no resulta aconsejable sustituir los jueces humanos por jueces ro- bots, a fin de evitar caer en la denominada “dictadura digital” 30 donde la IA puede contener sesgos de diseño y funcionamiento que pueden dar resultados desviados no conocidos por el juez que ha de dictar una resolución judicial 31 . 5. CONCLUSIONES La disrupción tecnológica de la IA en el sistema judicial está transformando la forma de entender la justicia, rediseñando el proceso de resolución de conflictos. La heterogeneidad 30 Nieva Fenoll señala que estaríamos pasando de la justicia de los jueces a la justicia de los programadores y de aquéllos que les influyan, lo cual es un riesgo inasumible en cualquier Estado democrático y de Derecho. En NIEVA FENOLL, Jordi: “Inteligencia artificial y proceso judicial”. Madrid: Marcial Pons. 2018 31 En el ámbito europeo, la normativa opta por no permitir a los sistemas de IA llevar a cabo la toma de decisiones judiciales sin el necesario control y supervisión humana. El juez no quedaría en ningún caso vinculado por el borrador propuesto por el sistema de IA, pudiendo modificar o adoptar una decisión distinta a la planteada por los sistemas de IA que permitan la producción de actuaciones judiciales y procesales automatizadas, asistidas y proactivas. En España, y pese a lo establecido en el art 56 a 58 del Real Decreto 6/2023, de 19 de diciembre que contempla el uso de la IA en el proceso judicial, en particular, en aquellas tareas de tramite o resoluciones judiciales simples que producen actos mecánicos o automatizados que no requieren de la interpretación jurídica del juez, el uso de la IA en la toma de decisiones judiciales no plantearía problemas. No obstante, en aquellas decisiones que requieren de interpretación jurídica, el “juez IA”, no se contempla, pues sería preceptiva además de una reforma constitucional a tenor de lo establecido en el art 117.1 y 3 de la CE, la inclusión de tecnologías de argumentación jurídica capaces de incorporar a los pronunciamientos de los jueces robots una motivación que cumpliera con las exigencias derivadas del artículo 24 de la CE.