Joaquín Dopazo: "Margarita Salas cambió la mentalidad de una generación de científicos"

El director del Área de Bioinformática de la Plataforma Andaluza de Medicina Computacional de la Fundación Progreso y Salud, Joaquín Dopazo (Madrid, 1961), participó este jueves en la XXI Semana de la Ciencia de Luarca, organizada por el Ayuntamiento de Valdés y dedicada a los investigadores valdesanos Severo Ochoa y Margarita Salas. Dopazo habló de inteligencia artificial (IA). En esta entrevista cuenta lo que sabe de ella, lo que vaticina y lo que le inspiran los reputados científicos nacidos en Valdés que se recuerdan en estas jornadas de divulgación.  

-Háblenos de usted, ¿cómo llegó hasta aquí? ¿Por qué es especializó en IA?

-Realmente en lo que estoy especializado es en el análisis de datos biomédicos, especialmente genómicos y clínicos, y su uso en la generación de nuevo conocimiento. La IA en una metodología que hemos ido adoptando en el campo de forma natural, según los datos se han ido haciendo más voluminosos y complejos y los problemas a resolver más complicados. Realmente empecé en los 90 del siglo pasado con sistemas de clasificación con redes autoorganizativas y usando “perceptrones”, los antecesores de las actuales redes profundas, pero con las tecnologías informáticas de la época realmente servían para bien poco. Después de una década de usar metodologías estadísticas convencionales y otras nuevas aplicadas a nuevos tipos de datos, hace unos pocos años, 5 o 6, han coincidido varios avances, tanto en computación como en matemáticas y algoritmos, con un espectacular aumento de datos, que han favorecido una situación en la que la IA ha empezado a mostrar su utilidad en muchos campos.

-Se habla mucho de Inteligencia Artificial (IA), pero quizás no se maneja bien el término. ¿Qué es la esencia de la IA?

-Realmente es un conjunto de algoritmos o procedimientos matemáticos que tienen la capacidad de “aprender” de los datos. Para entenderlo, imaginemos que fueran ecuaciones, y lo que hacen es modificar sus parámetros para irse acercando a la solución a base de ejemplos, que son cada uno de los datos. Hay muchas formas de realizar estas operaciones dependiendo del tipo de datos y del tipo de problema que se quiera resolver, pero a día de hoy se están aplicando virtualmente a todos los tipos de problemas. Realmente es un concepto antiguo del que ya se hablaba en los años 50 del siglo pasado, pero ha sido esta última década cuando han florecido realmente gracias al aumento de la potencia de cálculo de los computadores más modernos y la aparición de nuevos algoritmos matemáticos más eficientes. Por ejemplo, dentro del campo de la medicina (y otros campos) el análisis automático de imágenes está consiguiendo resultados espectaculares, siendo capaces de detectar características patológicas en imágenes con la misma fiabilidad o incluso mayor que un patólogo promedio, por citar uno de los campos más desarrollados.

-Sobre el avance de la IA hay dudas, ¿será buena o mala su evolución para la sociedad?

El avance de una tecnología siempre es bueno. Lo que puede ser cuestionable es su empleo, y sobre eso va la siguiente pregunta. Pero tener cada vez más opciones para resolver problemas a todos los niveles no es intrínsecamente malo, sino todo lo contrario (en mi modesta opinión, claro) y es de esperar que haga nuestras vidas más fáciles de muchas maneras, la mayoría de las cuales aún ni imaginamos.

-¿Deben existir compromisos éticos más férreos?

-Como en toda aplicación de una tecnología nueva debe haber una normativa ética y su trasposición legal. Una vez más esto no es nuevo. Lo hemos visto con otras tecnologías, como la genómica. Hay que ser cuidadoso para que no colisione con nuestros derechos, y probablemente uno de los más vulnerables ante estas tecnologías es el de nuestra privacidad. También tiene que tener en cuenta el legislador cómo se hacen estas normativas, ya que vivimos en un mundo en el que, en algunos países, con estándares democráticos muy pobres, muchos de los derechos que damos por sentados directamente no existen. Y sería un error dejar el liderazgo del desarrollo de la IA en manos precisamente de esos países. Sería un suicidio de los sistemas democráticos. Además de las cuestiones legales están las cuestiones sociales que conlleva cualquier revolución tecnológica. Por ejemplo, los coches autónomos tienen una serie de aspectos legales, como, por ejemplo: en caso de accidente ¿quién es el responsable? ¿el programador? ¿la empresa que comercializa el coche? ¿el dueño del coche? ¿el pasajero? Pero también tiene una componente social que hay que tener en cuenta en su implantación: dejará en paro a todos los choferes, taxistas, etc., que serán profesiones que desaparezcan, al menos en la forma en las que las conocemos. Y esto pasará con un conjunto de profesiones, algunas muy obvias y otras no tanto. También aparecerán profesiones nuevas que ahora no existen, pero serán mucho más tecnificadas y especializadas. Nuestras sociedades han sufrido este tipo de transformaciones otras veces, y es nuestro deber como sociedad haber aprendido a hacerlas lo menos traumáticas posibles.

-Cuéntenos algunas aplicaciones de la IA positivas y su visión sobre el lado, si lo considera, negativo.

-Mi trabajo se centra en las aplicaciones positivas y tiendo siempre las ves este ángulo. De forma muy general creo que podremos tener muchos predictores de riesgos a muchos niveles, tanto clínicos como de modo de vida, con lo la medicina se hará más preventiva y más sostenible y la calidad de vida del paciente, mejor. También veremos procedimientos que ahora son tediosos y los hacemos de forma reactiva (por ejemplo, la imagen) por su coste de tiempo, que al automatizarse se harán de forma más sistemática, incluso es posible que como cribado preventivo. Hay muchas más aplicaciones en otros campos emergentes, como la genómica, que están por desarrollarse y permitirán una medicina no ya personalizada, sino en algunos casos hasta individualizada. Otro aspecto muy interesante es el de la generación de nuevo conocimiento médico mediante el uso secundario de los datos clínicos. Las metodologías de IA acelerarán este proceso de descubrimiento. En el aspecto negativo de la IA tal y como se está empezando a aplicar en medicina, me gustaría remarcar lo que se conoce como el sesgo de aprendizaje. Incluso con las mejores intenciones, si hacemos que una IA aprenda con datos sesgados, y esto es especialmente peligroso con conjuntos de datos pequeños, podemos tener un estupendo predictor racista o sexista, o sesgado contra personas de cierta edad, o de cierta procedencia. Por eso conviene disponer de conjuntos de datos grandes y representativos de la población que se estudia. Otro problema es el de la “explicabilidad” que se deriva de que los algoritmos son tan complejos que no sabemos realmente en que se están basados para tomar una decisión, con lo que si están sesgados o mal entrenados tendremos un problema difícil de resolver. Para ello hay una corriente de algoritmos de IA explicable, en los que se puede saber en base a qué está tomando decisiones el algoritmo. Todo esto son riesgos de la IA cuando la empleamos bien. Por supuesto, inevitablemente un lado negativo vendrá, obviamente, de aplicaciones de la IA que sean delictivas o que violen nuestros derechos. Ahí es donde el legislador tiene que hacer una buena regulación. Pero ese no es mi campo.

-¿Realmente corremos riesgos? ¿Cuál es el más inminente?

-Hablando solamente de las aplicaciones en el campo de la salud, que es el que entiendo, el riesgo más grande que percibo es el de las IAs mal entrenadas, y ya he comentado anteriormente como puede ocurrir y por qué podría no ser fácil descubrirlo. Esto se soluciona con grandes conjuntos de datos no sesgados y con IA explicable. Y sin entrar tampoco en uso malintencionados, siempre que manejamos datos de pacientes hay que ser muy cuidadosos con la protección de datos. Cada vez que desarrollamos aplicaciones pensamos muy bien de qué manera los datos de nuestros pacientes nunca quedarán expuestos ni en el entrenamiento ni en la aplicación de la IA resultante.

-Descríbanos el futuro con IA.

-(Risas) Eso es muy complicado porque va a producir unas transformaciones que ahora ni imaginamos. Antes de las navidades pasadas nadie imaginaba que algo como ChatGPT, que es simplemente un modelo de lenguaje grande, pudiera hacer lo que hace, que se parece mucho (aunque no lo es) a un razonamiento. No me atrevo a hacer predicciones sociales, porque además no es mi campo, pero en el campo de la salud sí que veo que van a ocurrir grandes cambios en cuanto a la automatización de procesos. Esto ha ocurrido varias veces históricamente y siempre es muy controvertido, pero al final las tecnologías vienen para quedarse. Por ejemplo, los análisis antes en los hospitales se hacían a mano por técnicos, ahora son automáticos y los técnicos, muchos menos que antes, hacen un trabajo mucho más especializado, que tiene que ver más con el calibrado de las máquinas analíticas. Veremos estos cambios con muchos procesos que ahora son intelectuales, pero artesanos, como el análisis de las imágenes. También creo que la medicina se hará mucho más predictiva y que una parte de la asistencia hospitalaria será teleasistencia. También veremos mucha robotización, especialmente en procesos complicados como cirugía, que será cada vez más precisa y menos intrusiva y con postoperatorios mucho más cortos. Por otra parte, pienso (optimistamente) que se reforzará el contacto médico enfermo (que no es contradictorio con el aumento de la telemedicina) y se valorará más este contacto humano.

-Otro asunto no menor es su aplicación en los centros de enseñanza. ¿Qué opina? ¿Qué lección deben tener presentes los alumnos y los profesores?

-Creo que sí. La enseñanza también ha cambiado mucho, y creo que no lo suficiente. También hemos vivido muchos cambios similares, como la introducción de la calculadora, que muchos pensaban que harían incapaces de calcular a los niños y ha sido todo lo contrario. Probablemente casi ningún lector sepa como resolver a mano una raíz cuadrada, pero se las puede apañar para saber el resultado. La IA está aquí y los estudiantes tienen que vivir con ella. Por otra parte, yo no soy docente y probablemente haya formas desastrosas y formas brillantes de introducirla. Dejemos a los expertos que hablen de lo que saben.

-Estas semanas ha surgido un debate sobre prohibir el uso de móviles en menores de 16 años. ¿Cuál es su opinión y sus argumentos para defender el sí o el no?

-Aunque uno de los deportes nacionales es hablar de lo que uno no sabe, no lo práctico, así que no siendo educador no opino. No sé en qué argumentos está basado este debate.

-¿En el ambiente familiar, hay riesgos con la IA? Ponga límites.

-Yo no diría que hay riesgos específicos del entorno familiar que no sean de otros entornos. Supongo que pregunta por los riesgos del acceso a internet. Lo que pasa es que antes (hace mucho) jugábamos en la calle, que era un sitio distinto de casa, y nuestros padres nos advertían de que no hablásemos con desconocidos ni aceptásemos caramelos de señores con gabardina y cosas así. Ahora los niños navegan por internet desde casa y nadie les habla e los peligros. Y hay delincuentes y profusión de noticias falsas y se navega con poco espíritu crítico y sin ninguna precaución. Creo que falta una concienciación de que -internet, aparte de una fuente de datos (casi nunca ciertos) también es un sitio peligroso.

-Está en el municipio cuna de Severo Ochoa y Margarita Salas, ¿qué le inspiran estas personalidades? ¿Cómo debemos recordarles?

Me  parecen de estas personas que aparecen una por generación, con una visión y una capacidad de transformación de su entorno increíbles. Creo que los 'españolitos' de a pie pecamos de ser un poco conformistas, incluso cuando hacemos cosas originales, y hace falta gente que sea capaz no solo de inventar, sino de transformar. Al Dr. Ochoa no tuve el gusto de conocerle personalmente, solo le vi, ya de muy mayor, en algún evento. Pero a la doctora Salas, Margarita, sí que tuve el gusto de conocerla personalmente y he podido ver de primera mano como ha cambiado la mentalidad de una generación de científicos, que a su vez han cambiado la forma de hacer ciencia en la biología molecular y han puesto a España en el mapa.

-Acabe con una frase relacionada con IA en la que crea y que la sociedad deba tener presente.

Parafraseando y adaptando a la IA a Carl Sagan, uno de mis divulgadores científicos favoritos, diría que “vamos a vivir en una sociedad cada vez más dependiente de la IA y no podemos caer en el error de no saber sobre ella”.