Las matemáticas son armas de destrucción masiva. Lo proclama Cathy O'Neil, matemática, profesora del Barnard College de la Universidad de Columbia, en Estados Unidos, y autora de un "bestseller" incluido en la lista de "The New York Times" titulado "Weapons of Math Destruction". En este libro alerta sobre los peligros de la religión del siglo XXI, el "dataísmo", ese culto por el dato y los algoritmos que, según sostiene esta exejecutiva de Wall Street, está agravando extraordinariamente la desigualdad y la discriminación en el mundo. "Son un cóctel tóxico para la democracia", asegura.
Vivimos en la era del Big Data, en el siglo del procesamiento masivo de datos a través de algoritmos, esos conjunto de instrucciones matemáticas que tratan de crear un modelo de la realidad para anticiparse a ella. Los algoritmos no caen del cielo, no son objetivos -subraya O'Neil- han sido fabricados por seres humanos y, por tanto, incluyen sus prejuicios y malentendidos. A veces, los datos con los que se "cargan" están sesgados. Son "opiniones incrustadas en las matemáticas". Pero estos modelos matemáticos gobiernan ya nuestras vidas. Se aplican en la selección de personal, en la concesión de créditos, en cuánto tendremos que pagar por nuestro seguro sanitario... Un ejemplo aportado por esta autora para entender su influencia: en 24 estados de EE UU, los jueces utilizan modelos matemáticos para determinar el nivel de peligrosidad de un acusado según una serie de cuestiones como el barrio donde viven, sus amistades o familiares. O'Neil subraya que esos algoritmos penalizan a las personas de raza negra, de tal manera que sus penas son un 20% superiores a las de los blancos. Otro caso. "Si usted llama a un servicio de atención al cliente, de su número de teléfono se va a inferir un valor como cliente, según el perfil que tengan registrado de nosotros. Si usted es un cliente de bajo valor, va a estar en espera para siempre. Si usted es un cliente de alto valor, podrá comunicarse inmediatamente con un representante de la empresa", declaró en una entrevista a "Quartz". Digamos que los algoritmos "codifican el pasado" y, por tanto, tienden a repetir en bucle las diferencias actuales, lo que a la postre irá magnificando la desigualdad: si una vez mataste un gato, ya te llaman matagatos. Otro ejemplo, citado de una entrevista de la autora con la BBC: "Si un estudiante pobre en EE UU trata de pedir un préstamo, el sistema lo rechazará por ser demasiado arriesgado en virtud de su raza o vecindario y será aislado de un sistema educativo que podría sacarle de la pobreza, quedando atrapado en un círculo vicioso".
Los algoritmos gozan del prestigio de lo infalible, nadie los cuestionas. Parecen absolutamente ecuánimes. Pero, además, nadie los entiende. Pero, además, ni siquiera son públicos. "Las armas de destrucción matemática son algoritmos importantes, secretos y destructivos. Y los algoritmos que en última instancia causaron la crisis financiera cumplen con todos esos objetivos: afectaron a un gran número de personas, fueron completamente opacos y destruyeron vidas", dijo O'Neil a "The Guardian". Ella lo sabe bien, trabajó en "hedge fund" de Wall Street antes de ver la luz y convertirse en una de las activistas del movimiento Occupy Wall Street. "El Big Data agrega eficiencia y escala a sistemas imperfectos, lo que multiplica el caos y la desgracia", añade. Y ahí vamos.
