Desafíos actuales de la Inteligencia Artificial

La regulación de la inteligencia artificial en Europa 137 a los riesgos para los derechos humanos, la democracia y el Estado de Derecho; también la gravedad y la probabilidad de los posibles impactos; considerarán, cuando proceda, las perspectivas de las partes interesadas, en particular de las personas cuyos derechos puedan verse afectados; incluirán documentación de los riesgos, los impactos reales y potenciales, y el enfoque de gestión de riesgos; exigirán que se sometan a ensayo los sistemas de IA antes de ponerlos a disposición para su primer uso y cuando se modifiquen significativamente. Fi- nalmente, cada Parte evaluará la necesidad de una moratoria o prohibición u otras medidas adecuadas con respecto a determinados usos de los sistemas de IA cuando considere que dichos usos son incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho. 5. LAS DIFERENCIAS ESTRUCTURALES ENTRE EL REGLAMENTO DE LA UNIÓN EUROPEA Y EL CONVENIO MARCO DEL CONSEJO DE EUROPA. En primer lugar, el ámbito de aplicación del RIA es, lógicamente, el territorio de la UE, mientras que el CIA nace con una cierta vocación de globalidad y prevé que estará abierto a la firma de los Estados miembros del Consejo de Europa, de los Estados no miembros que hayan participado en su elaboración y de la UE. En segundo lugar, el RIA será obligatorio en todos sus elementos y directamente aplica- ble en cada Estado miembro; el CIA será obligatorio en la medida en los Estados se incor- poren a él. En tercer término, el RIA incluye una normativa extensa (113 artículos y XIII Anexos) y muy prolija, con preceptos muy detallados, mientras que el CIA se compone de un articulado mucho más reducido (36 preceptos) y menos detallado. El propio CIA destaca su “carácter marco”, que podrá complementarse con otros instrumentos para abordar cuestiones especí- ficas relacionadas con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial. En cuarto lugar, el RIA, en términos generales, contiene más reglas, es decir, incluye comportamientos precisos de lo que puede, o no, hacerse en materia de IA; el CIA adopta una configuración más principialista, esto es, contiene mandatos de optimización que pueden ser cumplidos en diferente grado. En quinto lugar, y también con carácter general, el RIA impone obligaciones de medios y de resultado mientras que el CIA incluye, esencialmente, obligaciones de resultado, dejando a los Estados la concreción de las medidas adecuadas para alcanzarlos. Finalmente, el RIA contiene un sistema de sanciones mientras que el CIA se limita a dis- poner que cada Parte establecerá o designará uno o más mecanismos eficaces para supervisar el cumplimiento de las obligaciones establecidas.