Desafíos actuales de la Inteligencia Artificial

266 Desafíos actuales de la Inteligencia Artificial criminación han emergido como conceptos organizativos clave en los debates políticos sobre estas tecnologías. No obstante, al evaluar el potencial transformador de dichas tecnologías, las políticas de privacidad y no discriminación también enfrentan limitaciones. La implemen- tación de estas prioridades ha sido objeto de críticas, ya que ha dado lugar a soluciones de diseño orientadas a resolver problemas a través de iniciativas como la «privacidad por dise- ño» o la mitigación de sesgos. Si bien estas iniciativas pueden ofrecer ciertos beneficios, rara vez cuestionan la naturaleza misma del sistema de IA o sus lógicas operativas, lo que limita su capacidad para generar soluciones duraderas. Como aclara Hoffmann: Debemos resistirnos activamente a la idea de que los datos y los algoritmos se limitan a informar, apoyar o emitir decisiones que afectan la distribución de bienes específicos. En particular, es crucial enfrentarnos directamente al papel que desempeñan los datos y los algoritmos en la mediación activa y en la normalización de discursos y condiciones sociales que, en primera instancia, condicionan las decisiones sobre dichas distribuciones. Kate Crawford y Vladan Joler (2018) plantean esta cuestión de manera más drástica: «Muchos de los supuestos sobre la vida humana que integran los sistemas de aprendizaje automá- tico son estrechos, normativos y están plagados de errores. Sin embargo, estos supuestos se están inscribiendo y construyendo en un nuevo mundo, y desempeñarán un papel cada vez más importante en la forma en que se distribuyen las oportunidades, la riqueza y el conocimiento». (Hoffmann, 2019). Además, al centrarse exclusivamente en los derechos individuales, se dejan de reconocer las transformaciones estructurales introducidas por las tecnologías de optimización y su im- pacto en los derechos sociales, como el papel del trabajo y la protección del Estado de bien- estar. Esto ocurre a pesar de que dichas transformaciones no forman parte de los enfoques dominantes relacionados con los datos y las infraestructuras informáticas. El debate sobre la precariedad en la intersección entre las tecnologías de optimización y el trabajo también amplía las discusiones sobre el futuro del Estado de bienestar. Esta cuestión no solo abarca la seguridad de los derechos laborales o las garantías de ingresos, sino que cada vez más exami- na cómo las infraestructuras de datos influyen en los servicios públicos, incluidos los controles de elegibilidad, las evaluaciones de riesgos y la elaboración de perfiles (Ewbanks, 2018, p. 54). En un informe a la Asamblea General sobre la pobreza extrema y los derechos huma- nos, estas tendencias fueron caracterizadas como la aparición del Estado de bienestar digital, una realidad que está emergiendo en varios países alrededor del mundo. Según Van Zoonen (2020), esta transición hacia el uso de datos en las políticas sociales no está exenta de riesgos. Virginia Eubanks, por ejemplo, documenta numerosos casos de automatización y datifica- ción negligente en las políticas sociales de varios estados de EE. UU., los cuales han dejado a millones de personas injustamente acusadas de fraude y privadas de sus prestaciones. Eu- banks concluye, tras años de entrevistas y observación exhaustiva, que las tecnologías de datos y los algoritmos han creado una “pobreza digital,” en la que los grupos ya desfavorecidos están sometidos a un mayor control y vigilancia que nunca. Eubanks (2018, p. 13) afirma: Al igual que con las anteriores innovaciones tecnológicas en la gestión de la pobreza, el seguimiento digital y la toma de decisiones automatizada ocultan la pobreza del público