Ana Rodríguez: "La IA puede llegar a perpetuar desigualdades"

"La inteligencia artificial no solo refleja la sociedad en la que se desarrolla, sino que también contribuye a moldearla. Puede perpetuar desigualdades, pero también ofrece herramientas para detectarlas y corregirlas". Ana Rodríguez, letrada del Consejo Consultivo del Principado de Asturias y especialista en derechos humanos, de las mujeres y digitales, defendió ayer en el Club la necesidad de una ciudadanía crítica y activa y frente a la idea de un progreso tecnológico inevitable, propuso reflexionar colectivamente sobre qué tipo de tecnología se quiere y qué papel debe desempeñar en una sociedad democrática. "Porque, en última instancia, la cuestión no es solo tecnológica, sino profundamente política", recalcó.

Con motivo del Día Internacional de la Mujer, el Club acogió un coloquio sobre la relación entre inteligencia artificial, democracia e igualdad. A Ana Rodríguez la acompañó Faustina Ibáñez, psicóloga clínica del Hospital de Cabueñes, quien abrió el encuentro planteando algunas de las preocupaciones actuales en torno a la tecnología. Ibáñez señaló que los teléfonos móviles y el ecosistema digital generan inquietud tanto por su impacto en la vida cotidiana como por sus implicaciones geopolíticas. Con ese marco, el coloquio se adentró en una cuestión central: la inteligencia artificial suele presentarse como una tecnología objetiva, pero en realidad puede reproducir y amplificar desigualdades existentes. Ana Rodríguez puso ejemplo gráfico e inquietante: el diagnóstico del infarto agudo de miocardio en mujeres, una de las principales causas de muerte femenina. Durante décadas los estudios clínicos y los protocolos se basaron principalmente en datos masculinos. Como consecuencia, los síntomas asociados al infarto responden al patrón masculino.

Entrenamiento correcto

La jurista, miembro de "Mujeres en el sector público", recordó casos de desatención sanitaria con consecuencias mortales. "Ni la ciencia ni la tecnología son neutrales", subrayó. La inteligencia artificial actual, basada en el aprendizaje automático o profundo, no razona como las personas. En lugar de comprender los problemas, detecta patrones estadísticos en enormes volúmenes de información. Esto puede producir resultados muy eficaces, pero también errores, señaló la conferenciante.

Para ilustrarlo, Rodríguez mencionó un experimento desarrollado en Cantabria para entrenar un sistema capaz de detectar neumonías a partir de radiografías. Tras analizar miles de imágenes los investigadores descubrieron que en muchos casos se fijaba en la posición de los hombros del paciente, y no en los pulmones. El sistema había aprendido que las personas con neumonía suelen encogerse debido a la dificultad para respirar. Gracias a herramientas de interpretación del algoritmo, el sesgo pudo detectarse y corregirse.