Desafíos actuales de la Inteligencia Artificial

196 Desafíos actuales de la Inteligencia Artificial de las posibilidades de su uso, la complejidad y la evolución del propio concepto de lo que es la IA obliga necesariamente a los juristas a repensar y madurar las bases fácticas, éticas y normativas existentes de los sistemas de IA antes de positivizarlas en instrumentos normativos con vocación temporal de permanencia. Frente al entusiasmo cauteloso de los partidarios de la IA en el sistema judicial y la sospecha paciente de sus detractores, el uso de esta tecnología debe de ir acompañada de mayores exigencias públicas y del desarrollo de nuevos principios que permitan garantizar la exactitud, explicabilidad, trazabilidad y publicidad de estos siste- mas, así como la posibilidad de recurrir las decisiones adoptadas por ellos. Del mismo modo, es perentoria la cooperación, colaboración y coordinación entre la Administración de Justi- cia, el mundo académico y judicial, la industria y los organismos públicos para la creación de órganos independientes encargados de verificar la objetividad de los algoritmos con el objetivo de evitar sesgos y prevenir los efectos discriminatorios de los mismos. Por otro lado, la IA constituye una gran oportunidad para garantizar el derecho a la tutela judicial efectiva consagrado en el art 24.1 de la Constitución Española. Gracias a estos sistemas, se pueden analizar multitud de datos a gran escala, detectar patrones y generar posibles predicciones, lo que reforzaría la labor de Jueces y Magistrados a la hora de adoptar sus decisiones judiciales, ya que estos contarían con todos los instrumentos normativos y precedentes jurisprudenciales para motivar su resolución judicial. Además de ganar tiempo y mejorar la confiabilidad del desempeño de su labor jurisdiccional, los miembros de la Carrera Judicial podrían enfocar su capacidad en tareas argumentativas más complejas que requieren obligatoriamente del componente cognitivo humano. Del mismo modo, estos sistemas van- guardistas permitirían minimizar los riesgos asociados de su implementación, reforzando la seguridad y confianza de los ciudadanos en el sistema judicial donde su correcta adecuación potenciaría la independencia e imparcialidad judicial reduciendo el margen de apreciación subjetivo derivado de la propia naturaleza humana. No obstante, consideramos que una decisión judicial que fuese fruto únicamente de la decisión automatizada de un algoritmo proveniente de un sistema de IA, seria contraria al derecho a la tutela judicial efectiva y las garantías procesales por contravenir el derecho a la motivación de las resoluciones judiciales del articulo 120.3 de la Constitución y por impedir la acción judicial efectiva contra la deci- sión adoptada por los sistemas de IA. Finalmente, se ha de destacar que la labor creativa de los jueces a la hora de adoptar sus decisiones judiciales mediante la calificación de los hechos, la valoración de las pruebas, la ponderación de los intereses en conflicto y la determinación de la norma aplicable, combina una serie de elementos de discrecionalidad técnica, contextualización y motivación judicial que permiten detectar y resolver falacias, lagunas y antinomias garantizando la idea de justi- cia. Esta idea es inalcanzable para los jueces robots, ya que solo serían capaces de aportar una solución correcta pero no necesariamente justa. Además, no debe olvidarse que ninguna ma- quina podría ser totalmente autónoma y libre, dado que carece de dignidad, elemento dife- renciador del juez humano frente el juez robot. Por consiguiente, el juez humano difícilmente será reemplazado por los sistemas de IA si los miembros de la Carrera Judicial son capaces de sobreponerse al avance tecnológico y evitan que el ejercicio de la función jurisdiccional quede ligado a los intereses de empresas privadas titulares de dicha tecnología, pues no debe