Desafíos actuales de la Inteligencia Artificial

Inteligencia artificial y servicios públicos: una vuelta al origen para construir el futuro 247 Ahora bien ¿sería justo exigir al programador la cesión del Código Fuente ? Lo cierto es que entregarlo equivaldría a quitarle todo elemento de valor, este es el cora- zón y el cerebro del algoritmo, y en efecto, contiene sus secretos y explica su funcionamiento. Su pérdida podría tener consecuencias irreversibles. Además, no es ético, y menos, seguro, despojarlo de este, siendo la figura más capacitada para tomar decisiones, tanto en pro del beneficio público, como para su posible interés privado, ya habituado a tomar medidas de protección específicas como mayor interesado en proteger a toda costa el Código Fuente . Por todo ello es su único y mejor guardián. En términos de ciberseguridad son frecuentes los ataques sufridos por Administraciones Públicas, especialmente en Europa. Por ende, el hecho de que el programador ponga el Código Fuente a disposición de la Administración aumentaría el riesgo de ser atacados, y con ello, de desmantelar o alterar el funcionamiento del algoritmo. Incluso es una cuestión numérica: cuantas más personas conozcan la llave , menos seguro será, ya que las contraseñas son y deben ser privadas. Poniéndonos catastrofistas, cualquiera con la información y los conoci- mientos necesarios podría sacarle partido . Entonces ¿qué hacemos? Alternativamente a su cesión sería más prudente que el programador y/o proveedor explique (con todo lujo de detalles) el funcionamiento del algoritmo y sus decisiones y respues- tas. El legislador podría establecer exigencias y límites. Además, al tratarse de una relación contractual pueden establecerse cláusulas (incluso previstas o limitadas por el legislador). Así se tendría pleno respeto por el secreto profesional, y pasaría a exigirse la Fuente del Código , no el Código Fuente . Cuestión distinta son las responsabilidades generadas por malas prácticas de la Adminis- tración o por deficiencias o fallos del algoritmo, sea por instrucciones mal dadas por la Admi- nistración al programador en su confección; sea porque el programador haya cometido algún error en su configuración; o, sea el propio algoritmo quien empiece a fallar. Afortunadamen- te, estas serán (o al menos así debería ser) cuestiones residuales de las que deberá hacerse car- go la Administración y/o el programador según la situación, lo establecido en el contrato y la normativa vigente en ese momento. Adicionalmente, podría valorarse la habilitación expresa del legislador a los titulares de los Juzgados y Tribunales para poder exigir la cesión del Código Fuente en casos específicos y/o de especial complejidad que así lo requieran, para descubrir la raíz del problema y determinar responsabilidades. En este contexto, las Agencias previstas por el nuevo Reglamento de IA podrían desempeñar un papel fundamental. 5. CONCLUSIONES En definitiva, cómo ya avanzó Boden , la IA debe ir acompañada de ideas potentes , y con ellas crear soluciones . Analizados los precedentes y los riesgos en el uso de estas tec- nologías nos encontramos ante un nuevo horizonte. Una oportunidad única para que la Administración Pública no sólo actualice y optimice la prestación de servicios