Desafíos actuales de la Inteligencia Artificial

Análisis del Convenio Marco sobre inteligencia artificial del Consejo de Europa 143 Georgia, Islandia, Israel, Noruega, Moldavia, San Marino, Reino Unido, Estados Unidos de América y la Unión Europea (UE) lo firmaron ese mismo día. Lo que hace especialmente relevante este Convenio es que se trata del primer tratado internacional sobre esa materia. Hasta ahora las iniciativas en este sector habían sido de soft-law (como los Principios de la OCDE sobre Inteligencia Artificial 7 o la Recomendación de la UNESCO sobre la ética de la inteligencia artificial 8 ). Sin embargo, este Convenio será jurídicamente vinculante para los Estados que lo ratifiquen. Su vocación es crear un marco regulador no sólo para sus 46 Estados miembros, sino ir más allá de las fronteras europeas. Han participado en su negociación otros once Estados: Argentina, Australia, Canadá, Costa Rica, Estados Unidos, la Santa Sede, Israel, Japón, Mé- xico, Perú y Uruguay. 9 Estos Estados podrán ratificar el tratado, pero además también podrá hacerlo cualquier otro Estado del mundo que reciba una invitación del Comité de Ministros del Consejo de Europa. A continuación, se analiza el Convenio, su relación con el Reglamento de Inteligencia Artificial de la Unión Europea (UE) y algunas de las principales críticas que ha recibido. 2. CONTENIDO DEL CONVENIO El Convenio utiliza la definición de IA de la OCDE y recoge en su Capítulo II una serie de obligaciones generales relativas a la protección de los derechos humanos y la integridad de los procesos democráticos y respeto del estado de derecho. El Capítulo III regula los principios relacionados con las actividades dentro del ciclo de vida de los siste- mas de IA: dignidad humana y autonomía individual; transparencia y supervisión; rendi- ción de cuentas y responsabilidad; igualdad y no discriminación; privacidad y protección de datos personales; confiabilidad e innovación segura. Hay un brevísimo Capítulo IV sobre remedios. 7 El Consejo de la OCDE adoptó en 2019 una Recomendación con una serie de principios sobre la IA que se ac- tualizó en mayo de 2024. La UE, el Consejo de Europa, los Estados Unidos, las Naciones Unidas y otros Estados utilizan la definición de la OCDE de un sistema de IA y su ciclo de vida que figura en esta recomendación en sus marcos legislativos, estrategias y orientaciones. Además, la OCDE ha creado un Observatorio de la IA para centralizar información sobre la materia. Véase: https://oecd.ai/en/ai-principles 8 Se considera el “primer marco normativo universal sobre ética de la IA”. Si bien no es jurídicamente vinculante, su valor estriba en que muestra el consenso de la comunidad internacional en la materia al ser adoptado por los 193 Estados miembros de la UNESCO en noviembre de 2021. Disponible en: https://www.unesco.org/es/ articles/recomendacion-sobre-la-etica-de-la-inteligencia-artificial (última consulta: 17/06/2024). 9 Además, han participado en las reuniones otras organizaciones internacionales y regionales como la UE (repre- sentada por la Comisión Europea), la ONU (en particular la UNESCO), la OCDE o la OSCE; representantes del sector privado, incluidas empresas y asociaciones; y representantes de la sociedad civil, instituciones acadé- micas y de investigación admitidos como observadores, pero éstos últimos no han participado realmente en la redacción.