Desafíos actuales de la Inteligencia Artificial

La transformación digital de los derechos de Seguridad Social en Brasil 267 profesional de clase media, proporcionando a la nación la distancia ética necesaria para to- mar decisiones deshumanizadoras: quién recibe alimentos y quién pasa hambre, quién tiene vivienda y quién queda sin hogar, y qué familias son disgregadas por el Estado. La “pobreza digital” se inserta en una larga tradición estadounidense, en la que gestionamos a los pobres de manera individual, eludiendo así nuestra responsabilidad compartida de erradicar la po- breza. (Ewbanks, 2018, p. 13). Uno de los principales argumentos del Estado para adoptar sistemas de inteligencia ar- tificial (IA) en la provisión de derechos sociales es la lucha contra el fraude y los errores, los cuales pueden representar grandes sumas de dinero. En consecuencia, el Informe de la ONU revela que muchos de los sistemas digitales de asistencia social implementados han sido es- pecíficamente diseñados para mejorar la capacidad de cruzar datos procedentes de diversas fuentes con el fin de detectar fraudes e irregularidades por parte de los solicitantes de ayuda social. Sin embargo, los estudios de campo realizados por el Relator Especial de la ONU, junto con otros casos analizados, indican que a menudo se exagera la magnitud de estos pro- blemas. En ocasiones, se presta una atención desproporcionada a este aspecto del sistema de bienestar (Naciones Unidas, 2019, p. 10). El cálculo del riesgo también ocupa un lugar central en los objetivos de los sistemas de bienestar, y las tecnologías han alcanzado un alto nivel de sofisticación en este ámbito. Además de la detección y prevención del fraude, la protección del trabajo infantil ha sido un punto clave, como lo ilustran ejemplos en países como Dinamarca, Nueva Zelanda, el Reino Unido y Estados Unidos. Estas tecnologías también se emplean para determinar la elegibi- lidad y calcular la cuantía de las prestaciones por desempleo. Por ejemplo, mientras que en Polonia dicho sistema ha sido declarado inconstitucional, en Austria un sistema basado en algoritmos continúa evaluando a los solicitantes desempleados para decidir la cuantía de la ayuda que recibirán del Estado (Naciones Unidas, 2019, p. 11). Muchos otros ámbitos del Estado de bienestar también se ven afectados por tecnologías que evalúan riesgos y categorizan necesidades. Aunque estos métodos ofrecen numerosas ventajas, especialmente en términos de rapidez y ahorro de costes, es fundamental tener en cuenta los problemas que pueden surgir. En primer lugar, basar los derechos de un individuo en predicciones derivadas del comportamiento de un grupo poblacional plantea una serie de dilemas éticos y prácticos. En segundo lugar, el funcionamiento de estas tecnologías y los métodos utilizados para generar puntuaciones o clasificaciones suelen ser opacos, lo que complica la rendición de cuentas por parte de gobiernos y entidades privadas ante posibles violaciones de derechos. Por último, las prácticas de puntuación de riesgos y categorización de necesidades pueden perpetuar o incluso agravar las desigualdades y la discriminación preexistentes (Naciones Unidas, 2019, p. 10). Estas diversas preocupaciones subrayan la importancia de los derechos sociales en el con- texto de la digitalización y la introducción de tecnologías de optimización, aunque frecuente- mente no se abordan de manera directa. Si bien la privacidad y la protección de datos en los ámbitos del trabajo y el bienestar social forman parte de estos debates, los derechos sociales rara vez han sido el foco central. Todavía no se sabe con certeza cómo integrar eficazmente