"La digitalización está creando una nueva violencia burocrática"

–¿Qué es ese bucle invisible del que habla en su ensayo?

–"El bucle invisible" es, ante todo, un punto de entrada a la época que nos permite problematizar la cultura tecnológica contemporánea desde los nuevos usos y poderes que silenciosamente nos animan a repetir mundo y a repetirnos en él, pero conociéndolo descubrimos maneras en que nos permite desviarnos, ser críticos y ayudar a mejorarla. El bucle invisible es aquel que atravesando silenciosamente nuestra vida, deseos y expectativas tiende a repetir de nosotros lo que la sociedad espera. Es un bucle que ha existido siempre en el contexto de lo simbólico y de la construcción subjetiva y de identidades, pero que, ahora, en una cultura digital donde la vida en las pantallas se ha normalizado, adquiere una potencia, alcance y lectura distintas. Este libro comienza observando las formas en que se programan y operan esos bucles en el contexto tecnológico actual, buscando identificar y reflexionar sobre sesgos e inercias que tienden a anticipar y, en gran medida, a favorecer que las personas repitan lo que sus identidades colectivas vaticinan de ellas, atendiendo a identidades preconcebidas y a datos que tienden a reiterarlas y que nos encajan en determinados compartimentos que parecen "describir", cuando realmente contribuyen a crear hábito y expectativa, condicionan y orientan. En un mundo de datos masivos controlados por determinadas industrias digitales cabe preguntarse si la estadística apoyada en los datos recopilados, y pasados, no ayuda solo a "describir" lo que ha sido, sino a anticipar lo más probable o lo que "puede ser", creando una estructura que incite a ello.

Ahora que todo parece más visible que nunca, los códigos que se usan para programar el mundo son los más herméticos

–¿Es más peligroso por ser bucle, porque nos encarcela en el perfil que nos adjudica la máquina, o por ser invisible, porque no sabemos que detrás hay algoritmos que funcionan como una caja negra?

–Es la combinación del bucle con su invisibilidad la que lo convierte en dañino. Una reflexión reveladora que ayuda a entender esta potencia vendría de la reflexión de la filósofa Simone Weil cuando advierte de lo negativos que llegan a ser los mecanismos u organizaciones que acrecientan la desigualdad frente a lo positivos de aquellos que alientan una mayor igualdad, pero entre ellos precisa que el mayor riesgo se encuentra en las organizaciones que favorecen compartimentos estancos. Esta idea es central en este libro, de forma que conocer y especular sobre las maneras en que la cultura-red contemporánea contribuye a favorecer compartimentos estancos y que por tanto la desigualdad siga repitiéndose en bucle es algo que aquí moviliza. La forma en que esto acontece es llamativa. La invisibilidad, que parece una característica ajena a la época, es por el contrario un asunto aquí esencial, pues ahora que todo parece más visible que nunca y que a golpe de dedo logramos respuestas, imágenes e información capaz de sepultarnos, justamente los códigos que se usan para programar este mundo son más herméticos. En tanto las empresas que se han investido como gestoras de vida y mundo online tienen en ellos su mayor tesoro, ocurre que se dedican a "visibilizar mundo" pero se "invisibilizan como lente". Las órdenes e indicaciones en las que se basan suelen ser opacas para las personas que los usan de manera cotidiana. Personas que presuponen que estas herramientas son neutrales y que si todos las usamos "no deben ser negativas". Esa fuerza que gestiona estas tecnologías no es pública, democrática ni regida por normas consensuadas, sino fuerza empresarial regida por la búsqueda de mayor capital, mayor beneficio. De otro lado, las condiciones de acceso e interrelación con la máquina nos dibujan como personas solas frente a la pantalla. Ante ellas nos sentimos liberados para decir, buscar y hacer como si estuviéramos realmente a solas. Nos hemos habituado a preguntar a Google lo que no preguntamos a otro humano. Por ejemplo, las preguntas sobre cómo y dónde abortar son realizadas al buscador antes que a familiares o amigos.

–¿Hay que establecer nuevas legislaciones para obligar a abrir esas cajas negras de los algoritmos y mostrar sus sesgos? 

–Las nuevas legislaciones son imprescindibles en tanto los contextos y sujetos del discurso están cambiando y, si bien las tecnológicas que hoy dominan este territorio se conciben como empresas, el alcance del mundo digital no es solo mercantil, comunicacional o lúdico, es claramente político y simbólico y contribuye a crear imaginario y poder. Las empresas que tienen grandísimo poder sobre nosotros no rinden cuentas allí donde sus plataformas y aplicaciones operan, pero tampoco se rigen por códigos éticos o principios en los que la ciudadanía o sus representantes puedan intervenir. Hay unas prerrogativas de globalización que benefician a estas tecnológicas y perjudican la regulación que proporcione garantías a los ciudadanos, que son algo más que usuarios o consumidores.

–¿Hasta qué punto estamos indefensos ante los algoritmos?

–Para responder creo que el análisis de la científica de datos Cathy O’Neil ("Armas de destrucción matemática", Ed. Capitán Swing) sobre el que me apoyo en parte del libro puede ser de ayuda. Ella identifica tres elementos clave. Por una parte, la escala en tanto alcance de la acción de los algoritmos, por otro lado la capacidad de daño y perjuicio a muchos a costa de beneficiar a unos pocos y, en tercer lugar, la opacidad por la que la programación es considerada patrimonio exclusivo de la empresa y corazón de su propiedad intelectual. El asunto es complejo, pero en tanto la escala a la que afecta o puede afectar es global pues, en gran medida, se trata del "suelo estructural" en el que nos movemos cotidianamente entre pantallas, la legislación e intervención de los poderes públicos debiera ser básica. No se trata de aplicaciones que nos venden cosas, se trata de aplicaciones que crean y condicionan la imagen y vida pública de las personas.

La fuerza que gestiona el mundo online no es pública ni democrática, es empresarial y está regida por la búsqueda del mayor beneficio

–¿Los algoritmos condenan a las clases más desfavorecidas a una pobreza a perpetuidad? ¿Blindan a las clases adineradas? 

–Pueden resultar bruscas esas afirmaciones, pero no a lo que apuntan. Los algoritmos pueden contribuir a favorecer igualdad o, por el contrario, a que los bucles sigan alimentando los compartimentos estancos de la desigualdad. Tienen un gran y creciente poder, y su invisibilidad, junto a su neutralidad presupuesta, los convierte en una herramienta poderosa.

–¿Detienen el ascensor social?

–Es llamativo que siendo uno de los más habituales mensajes capitalistas "Hazte a ti mismo", generando esa fantasía individualista y liberal del sueño americano del pobre que hace fortuna, lo que podemos advertir en sistemas cada vez más mediados tecnológicamente es cómo progresivamente las personas se ven atrapadas por lo que los algoritmos presuponen de ellas atendiendo a su dirección postal, su historial de préstamos, los lugares donde compra, su círculo de amigos, los colegios donde estudia, etc. Toda esta información y datos ayudan a crear perfiles y estadísticas que van facilitando (o no) determinados caminos. En este sentido, la tecnología puede ser una herramienta que favorezca el ascensor social, pero las dinámicas que hoy predominan y se favorecen, más regidas por el mercado que por crear contextos de igualdad y oportunidades, son altamente mejorables.

–¿La nueva tecnología ha potenciado la burocracia tradicional? ¿Lo digital ha acabado reforzando el papeleo? 

–La tecnología viene con nosotros y esto permite que el trabajo venga con nosotros. La tecnología digital favorece y a la par amplifica las tareas de autogestión. Tanto los trabajos formales como las labores de mantenimiento de la vida nos requieren cada vez más tareas de autogestión (bancos, energía, pagos, solicitudes, reclamaciones, permisos, averías, evaluaciones...). Las bases de datos son la base narrativa de las vidas contemporáneas. Y ocurre en muchos casos que, mediados por aplicaciones y bases de datos, se presenta como flexibilidad servicios que las empresas proyectan en los consumidores para ahorrar dinero mientras nos convertimos en suministradores y gestores de datos. Esta posiblemente es una diferencia de los privilegiados, que hoy pueden ser "leídos por personas" y cuentan con asesores humanos que les facilitan este trabajo y gestiones, y quienes deben mediarlo ellos mismos mientras son "leídos por máquinas".

–¿A qué ámbitos de nuestra vida está afectando más este proceso?

–En los testimonios que he recopilado sobre las transformaciones de las formas de trabajo y relación con máquinas, la burocracia es un asunto recurrente. Hay quien incluso describe una nueva "violencia burocrática" muy presente cuando se trabaja en sectores públicos donde las energías se diluyen en los esfuerzos y exigencias de justificación y homogeneización de acuerdo a protocolos que facilitan la "operacionalización" tecnológica y mayor control del trabajo a costa de perder calidad y sentido de lo que hacemos, incentivando una desvinculación de los mismos.

La mayoría seremos cada vez más leídos por máquinas y solo unos privilegiados podrán pagar a humanos que los ayuden

–Relacionado con lo anterior: para hacer un trámite cada vez interaccionamos más con máquinas.

–Por muy sofisticada que sea (y llegue a ser) la inteligencia artificial, las aplicaciones cotidianas se orientan a resolver problemas presupuestos y anticipados y tienden a encasillar para dejarte avanzar. Si bien pueden ayudarnos de muchas y diferentes maneras, el problema deriva de la exclusión de todo aquello que no haya sido contemplado en la programación previa y, lo que es más importante, de la exclusión de muchas personas que precisan una interlocución humana para explicarse y para comprender aquello de lo que se habla. Hace poco un comercial me daba la clave para hackear a una inteligencia artificial de una compañía telefónica. Se trataba de contestar a las tres primeras preguntas consecutivas de la aplicación con la respuesta: "Hablar con un operador, hablar con un operador, hablar con un operador". Con seguridad, quien no lee habrá experimentado la ansiedad, y en ocasiones, el paroxismo, de verse atrapado entre llamadas y consultas respondidas por robots donde nos sentimos angustiados por lo que debiera ser algo sencillo, como dar de baja un servicio, cambiar un titular, solicitar una ayuda, etc.

–Las personas mayores chocan constantemente con ese muro de máquinas.

–Un ejemplo muy concreto sería lo que está ocurriendo en los pueblos con personas mayores que no saben, no quieren o no pueden manejar los servicios online a los que han visto reducidos sus servicios bancarios. Y no se trata solo de una cuestión de "adaptación a los cambios", se trata de una filosofía que da nuevas vueltas de tuerca a lo liberal, de la primacía de un sistema que parece denostar la importancia de la empatía y de la mediación humana, pero que, sin embargo, la empaqueta como "servicio añadido", como plus para quienes pueden, o podrán, pagarla. Quizá la idea que con más fuerza me movilizó para este libro era la intuición de cómo la mayoría somos cada vez más leídos por máquinas mientras algunos privilegiados tenían la suerte de contar (y poder pagar) asesores privados, humanos que les explican, empatizan y les ayudan.

–La primera década del siglo XXI fue ser, digamos, la del solucionismo tecnológico: internet y sus derivados nos iban a traer un mundo perfecto. Ya en la segunda, empezó aflorar un pensamiento muy crítico. ¿Usted en qué lado está ahora mismo? ¿Ya se ha hecho ludita del todo?

–Ay, no. Puede que al hablar críticamente sobre estos asuntos a algunos le parezca una ludita, pero no es el caso. En este ensayo, y por algo los libros son mi medio de reflexión preferido, realizo un gran esfuerzo para huir de visiones duales que simplifiquen las cosas en posiciones dicotómicas y encontradas. De hecho, me considero gran defensora del uso emancipador de la tecnología, de cómo nos hace más libres al permitirnos hacer y ser sin estar presentes materialmente, de cómo puede amplificar nuestros sentidos a quienes (como es mi caso) tenemos algunos mermados y nos cuesta ver y oír. De hecho, mi relación con la tecnología no es solo reflexiva, sino que también lo es afectiva y quizá porque la valoro tanto por lo que puede ayudarnos considero que debemos cuidarla, implementarla y mejorarla colectivamente.

–Para el capitalismo de vigilancia ya no somos clientes, somos suministradores de datos, intimidades vampirizables. ¿Hasta qué punto conocemos que se ha producido ese giro radical? 

–Ese giro no se oculta. La red está plagada de noticias e información sobre ese capitalismo de vigilancia, pero la estrategia que aquí predomina no es la de "ocultación", sino la de "banalización". Se le resta importancia porque al final todos terminan usando la tecnología de manera parecida y se piensa que "no será tan malo si todos lo hacen". Esa frivolización es instrumentalizada por quienes rentabilizan datos y acumulan un gran poder sobre las personas. Cuando los poderes públicos intervienen, las empresas obligadas a informar pervierten el método y se proporciona a las personas pliegos infinitos de cláusulas que ningún humano podría leer y que debes "aceptar todo" para acceder al servicio, de forma que quedan salvaguardados legalmente y terminan además haciéndote cómplice de tu propia subordinación a un contrato perverso.

Me considero defensora del uso emancipador de la tecnología y, quizá porque la valoro tanto, considero que debemos cuidarla y mejorarla colectivamente

–¿Cómo protegerse de ese robo masivo de la intimidad?

–Las formas de protegernos siempre empiezan por la conciencia, por conocer como forma de poder pensar y decidir, pero precisan de una acción comunitaria para cambiar estructuras, para infiltrar cambios dentro de esas estructuras, a menudo faltas de ética o de un trabajo más empático y sensible. No vale todo para ganar dinero. El capital no debe dominar a las personas.

–De todos los efectos que está causando la digitalización, ¿cuál es el que a usted más le preocupa si tuviera que citar uno?

–Disfrazar de elección lo que la mayoría de personas viven como obligación, como inercia que les empuja a hacer lo que hace la mayoría y a engancharse a la tecnología. Descubrir que los mecanismos de los que se valen redes y aplicaciones son similares a los que se usan para crear hábitos adictivos vulnerabiliza a las personas. Es curioso cómo algunos padres han considerado que sus hijos estaban seguros porque no estaban en la calle, sino en su cuarto jugando. Pero la calle y los enganches que hacen a las personas menos libres están hoy también en el cuarto propio conectado. En este sentido, llama la atención que muchos de los gurús de Silicon Valley lleven a sus hijos a escuelas donde la tecnología está prohibida y se incentiva el trabajo creativo, plástico, colaborativo y experimental también desde la materialidad.

–¿El homo digitalis será una nueva especie? ¿En qué se diferenciará de lo que ahora somos?

–El humano está cambiando constantemente y, sin duda, la cultura digital también contribuye a crear esas inflexiones que nos van transformando irreversiblemente como especie. En este sentido la cuestión de cómo se están transformando los vínculos comunitarios me parece un asunto clave, especialmente teniendo en cuenta que quienes crean la estructura (que condiciona y promueve determinadas formas de vida y no otras) son mercado y poder económico, es decir oligopolios que concentran gran poder y que sortean el control político y ciudadano. Es como si viviéramos en un espejismo de espacio público que realmente es terreno expuesto a la ideología y decisiones de un pequeño grupo de ideólogos y empresarios.