Desafíos actuales de la Inteligencia Artificial

Aproximación al uso de la inteligencia artificial en la perfilación criminal 115 En la práctica, esta tarea asociada a la perfilación y la prevención de delitos se ha tra- ducido en distintos programas; como el “Gang Violence Matrix”, aplicado por la Policía Metropolitana de Londres en 2012, para la detección y prevención de actividades delictivas por parte de las pandillas que merodeaban en determinadas zonas de la ciudad, partiendo, claro está, del perfil concreto de los miembros de estas bandas (origen, edad, ocupación, ni- vel de estudios, etc.) 9 . En Alemania, la lucha contra la delincuencia organizada y las bandas terroristas, les llevó a implementar un sistema como RADAR-iTE 2.0, para la detección de terroristas en potencia. Y en similares términos, pero a nivel del espacio Schengen, en- contramos el “Visa Information System (VIS)”; basado en el intercambio de datos sobre las personas que transitan por los Estados del espacio Schengen, tanto si provienen de la UE, como de terceros países; con el objetivo de neutralizar a posibles delincuentes y prevenir la actividad criminal. Estos sistemas, más allá de la efectividad que pudieran presentar, no nos alejan de la polémica que se deriva de la implementación de una herramienta dirigida a un colectivo o lugar en concreto (un factor altamente discriminatorio); del mismo modo que se vulneran otros derechos (como la presunción de inocencia). La propia Agencia de Derechos Fundamentales de la UE (FRA) se ha pronunciado al respecto, remarcando la necesidad de posponer el uso de estas técnicas de elaboración de perfiles criminales, y otros programas orientados a la prevención, hasta que contemos con una regulación específica y garantista de los derechos de los ciudadanos, amén de la necesaria evaluación periódica de la definición legal de los términos asociados al uso de la IA 10 . 3. CONCLUSIONES Si bien cualquier cuestión que pueda representar un avance para la sociedad, sobre todo en lo relativo a la seguridad y la justicia, debería representar un factor del todo positivo, en el caso de la implementación de la IA cabe plantear, sin duda, ciertas reservas. Uno de los principales dilemas que presenta el uso de la IA debemos asociarlo, irremediablemente, a la posible afectación que ostenta respecto a la afectación de la esfera privada de los ciudadanos y sus derechos fundamentales. Cualquiera que sea la finalidad de los sistemas configurados a partir de la IA, y puestos a disposición de las Administraciones y la ciudadanía, nos obli- ga a establecer ciertos límites en su aplicación, en aras de salvaguardar los derechos de los ciudadanos. Sin embargo, no resulta sencillo poner límites, cuando las aplicaciones de la IA son tan imprevisibles como raudas en su constante evolución. La normativa va un paso por detrás de su efectiva implementación en distintos ámbitos, lo que en la práctica se traduce en un manifiesto problema de inseguridad jurídica. 9 A este programa le siguieron otros, como el “Qlik Sense”, orientado también a la prevención de delitos. 10 EUROPEAN UNION AGENCY FOR FUNDAMENTAL RIGHTS: Construir correctamente el futuro. La Inteli- gencia Artificial y los derechos fundamentales , Luxemburgo: Oficina de Publicaciones de la Unión Europea, 2021, pp. 5-12.