Boston Dynamics, empresa propiedad de Softbank y Google, fabrica perros robots sin cabeza del tamaño de lobos, llamados SpotMini, de asombrosa estabilidad y aspecto escalofriante. Son terminators cuadrúpedos que aprenden de sus errores y pueden comunicarse entre ellos: actúan en manada. En un reciente vídeo que se ha hecho popular en internet, uno de esos perros de caza demostraba su habilidad para abrir una puerta mientras una persona le hacía todo tipo de perrerías, empujándolo y golpeándolo para evitar que completara la acción. Pero el robot no caía y nunca se desviaba de su misión. Salvo que lo destruyas, siempre abrirá la puerta. No puede hacer otra cosa. La máquina es implacable. Nos asusta la ciega determinación escrita en sus algoritmos, las reglas lógico-matemáticas que ordenan sus acciones. Desde que existen, las máquinas aterrorizan a los humanos casi tanto como nos ayudan.
Simone Stolhoff, periodista especializado en las implicaciones éticas de las nuevas tecnologías, reflexiona en la revista "Quartz" sobre el peso que los algoritmos están teniendo en la vida diaria. Ejemplos: los algoritmos seleccionan y jerarquizan los contenidos que vemos en internet, manejan nuestros datos más íntimos para enriquecer a compañías como Facebook o Google; aprovechan nuestras debilidades psicológicas fomentando los mensajes de odio o encerrándonos en "burbujas" informativas que nos radicalizan cada vez más, pues sólo nos muestran opiniones que refuerzan las nuestras. Pero, ¿quién escribe los algoritmos? ¿O se escriben solos?
No. Los hombres escriben los algoritmos. Ésa es la escondida obviedad que nos recuerda Stolhoff, quien lanza un concepto clave en este nuevo siglo: "responsabilidad algorítmica". Es decir, establecer los controles necesarios para evitar un desastre social colosal por la implacable optimización que imponen unos algoritmos que ya están por todos lados y más que lo van a estar: en los objetos conectados de nuestro hogar, en el coche autónomo, en la selección de personal, en las sentencias judiciales o en la calificación de los riesgos de criminalidad de determinados barrios, en las plataformas de contenidos digitales que buscan captar nuestra atención a cualquier precio... Unos algoritmos, además, peligrosamente sesgados pues, como recientemente advirtió Melinda Gates, siempre están escritos por hombres blancos.
De lo contrario caminamos hacia el final de ese experimento mental conocido como "El clip maximizador". Imaginen un algoritmo creado para reunir todos los clips de oficina que le sea posible. Es inteligencia artificial, aprende del pasado para mejorar. Primero reúne todos los clips a la vista en la oficina y luego rebuscará en todos los rincones. Pero cuando se terminen los clips, aprenderá a construirlos, así que desgarrará cualquier pieza de metal que encuentre a su paso para poder hacerlos. Y así infinitamente, sin reparar en cualquier destrozo que sea necesario para cumplir el destino que lleva escrito en sus algoritmos. La máquina es ciega. Pero el hombre ve. De momento.
