La periodista mexicana Alma Guillermoprieto hizo el mejor discurso de la última entrega de los premios "Princesa" y, entre otras cuestiones, lanzó esta pregunta clave para nuestro futuro inminente: "¿Se deben regular las investigaciones que llevarán a la creación de una inteligencia artificial superior a la humana?". Esa duda subyace a todas las advertencias que hacen los expertos en el mundo digital preocupados por el daño social que ya está causando el uso de la inteligencia artificial de los algoritmos para tomar decisiones de gobierno. Una obra esclarecedora, y escalofriante, es "Armas de destrucción matemática" de Cathy O'Neil (Ed. Capitán Swing), cuyo subtítulo lo dice todo: "Cómo el big data aumenta la desigualdad y amenaza la democracia". Otra investigadora interesante es Joanna Redden. La revista "Scientific American" acaba de publicar un artículo suyo donde ahonda en la necesidad de reflexionar sobre las políticas que los Gobiernos están aplicando a partir de sistemas alimentados con ingentes cantidades de datos personales de los ciudadanos. Internet es un inmenso agujero que succiona nuestra información más privada y Jedden nos avisa de que, a medida que crece la montaña de datos disponibles y se multiplica la capacidad de procesamiento, se reduce la capacidad del ciudadano para resistirse y hacer frente a decisiones implacables que pueden cambiar su vida. Y, en esta batalla, los pobres están aún más indefensos.
Joanna Redden es profesora en la facultad de Periodismo de la Universidad de Cardiff y codirectora de una entidad llamada Data Justice Lab, donde recopilan casos de humanos pisoteados por la máquina del big data. Un ejemplo: en 2016, el Departamento de Servicios Humanos del gobierno australiano puso en marcha un nuevo sistema automático para identificar a las personas que habían cobrado prestaciones sociales en exceso. Con el nuevo método, los ingresos quincenales se promediaban para estimar los de todo un año, lo que perjudicaba a las personas con contratos a tiempo parcial o trabajo precario. Si antes, cuando los casos dudosos eran revisados por personas, se enviaban 20.000 cartas al año reclamando a los beneficiarios el dinero cobrado de más, con el nuevo método empezaron a enviarse 20.000 reclamaciones a la semana. Los afectados, todos de clase baja, tenían que demostrar que no habían cobrado de más. De mano, eran culpables: le debían pasta al Gobierno. "Aquellas personas atacadas se sentían impotentes porque tenían poco tiempo o pocos recursos para desafiar al sistema. Los periódicos informaron de que se produjo un suicidio. Una organización de servicios sociales mostró de que una cuarta parte de los avisos que había revisado estaban equivocados", escribe Jenner.
Los algoritmos nos catalogan, deciden nuestro destino en numerosos procesos de selección. "Pueden influir negativamente en la capacidad de las personas para obtener una vivienda, un seguro, para acceder a la educación o conseguir un trabajo", escribe Redden. Las máquinas trabajan con todos los datos que el sistema recopila de nosotros y, como dice esta investigadora, "los datos extraídos de un mundo que es desigual reflejarán esa desigualdad y muy a menudo terminarán reforzándola".
