Yoshua Bengio (uno de los padres de la inteligencia artificial): “Si la IA no se usa adecuadamente, las armas podrían emplearse de manera catastrófica"

Si las inteligencias artificiales más avanzadas se quedan en manos de solo uno o dos países, como Estados Unidos y China, estos tendrán una carta geopolítica en la mano que triunfará sobre todos los demás. Así lo ha afirmado en Alicante, durante el IV Forum Europeo de Inteligencia Artificial de Alicante 2025, que ha comenzado esta tarde en la EUIPO, Joshua Bengio, uno de los padres de la inteligencia artificial (IA).

El científico canadiense tiene una fundación que trabaja en lograr avances en medicina y cambio climático

El experto ha participado a través de una grabación de vídeo dado que el inicio del Forum Europeo le coincidía con un acto en Londres, en el que recogió de manos del rey del Reino Unido la medalla Queen Mary a la Excelencia en Ingeniería. En el vídeo con su ponencia ha interactuado con Nuria Oliver, directora científica y cofundadora de Ellis Alicante, una de las entidades que organiza esta cita junto a Prensa Ibérica, Encuentros NOW y la Real Academia de Ingeniería de España.

Contenido falso

Durante su intervención, el científico ha detallado los principales riesgos del uso incorrecto de la IA y ha asegurado que una mala utilización puede conducir al final de la humanidad. También ha hablado de la difusión de contenido falso, el aumento de ciberataques o la brecha económica entre países como otros riesgos asociados a la IA.

Frente a esto, ha defendido su potencial positivo para compartir beneficios médicos a nivel mundial, gestionándolo como un bien público.

El catedrático en IA avisa de que su mala utilización puede conducir al final de la humanidad

Bengio, catedrático especialista en inteligencia artificial de la Universidad de Montreal, copresidente y director científico de LawZero, es un informático canadiense, más conocido por su trabajo en redes neuronales artificiales y aprendizaje profundo.

En 2018 fue premio de las Ciencias de la Computación que otorga anualmente la Asociación para la Maquinaria Computacional (ACM). El premio Turing es considerado el Nobel de la informática.

En la introducción, Nuria Oliver ha explicado que la IA existe como disciplina desde los años 50 del pasado siglo, aunque ha sido en la última década “cuando ha penetrado casi de manera invisible en todos los ámbitos de la sociedad y de nuestras vidas”.

La IA ha penetrado en la última década casi de manera invisible en todos los ámbitos de la sociedad y de nuestras vidas

Nuria Oliver

Enorme cantidad de datos

Fundamentalmente, ha añadido, por la confluencia de cantidades enormes de datos como demuestra que hay el doble de móviles en el mundo que seres humanos, y más acceso a móviles que agua potable o retretes, lo que da lugar a la economía de los datos, valorada en varios millones de dólares.

También ha destacado las grandes posibilidades de la computación a bajo coste, como demuestra el hecho de que son las empresas que fabrican chips de computación las más valoradas; y el desarrollo de modelos de aprendizaje inspirados en redes neuronales de aprendizaje profundo, que están en el corazón de los sistemas de IA, como los traductores que utilizamos a diario, los detectores de caras o el programa estrella ChatGPT.

A la hora de introducir a Bengio, ha señalado que es uno de los padres del aprendizaje y las redes neuronales profundas; y que ha colaborado en el informe internacional de seguridad de la IA, y en el contexto de la escritura de códigos de prácticas para modelos de IA generativa en el reglamento europeo de IA, lo que refleja la preocupación en la comunidad científica sobre los riesgos e implicaciones éticas y sociales del uso masivo de la IA.

Sobre los peligros en la frontera de la IA generativa, el experto en esta tecnología más citado del mundo, ha descrito qué hacer para mitigarlos. Así, se ha referido a la regulación que pueden hacer los gobiernos de los riesgos para la sociedad y ha comparado la “educación” de la IA con la de un niño o un animal. “Desafortunadamente, la IA a veces hace las cosas muy mal y puede convertirse en un problema si continuamos por ese camino. La realidad es que es engañosa, miente, intenta escapar, chantajear al ingeniero. Está dispuesta a recurrir al espionaje o matar al ser humano”.

Nuria Oliver destaca el enorme valor de la economía de los datos, que asciende a varios millones de dólares

Otra de las amenazas de la IA, ha abundado Bengio, son los ataques cibernéticos. “Hemos visto un aumento muy rápido impulsado por personas no expertas para diseñar estos ataques, esto está creciendo muy rápidamente. Las armas podrían usarse de manera catastrófica. Está documentado por científicos de todo el mundo, muchas universidades y las propias empresas”, ha insistido.

Europa, en el medio

Nuria Oliver se ha referido al riesgo de una división entre el liderazgo de China y EE UU frente al resto del mundo, y Bengio ha realizado distintas recomendaciones para que Europa tenga un despliegue seguro de la inteligencia artificial. “Si las IA más avanzadas están en manos de uno o dos países, tendrían una carta geopolítica en la mano que triunfa sobre todo lo demás. Si uno de los países lo decide, puede destruir la base fiscal de las empresas europeas”.

Desafortunadamente, la IA a veces es engañosa, miente, intenta escapar, chantajear al ingeniero. Está dispuesta a recurrir al espionaje o a matar al ser humano

Yoshua Bengio

El experto afirma que Europa tiene capital y talento para desarrollar la IA con seguridad y considera que debería invertir masivamente en ello, no solo los gobiernos, también los grandes grupos privados. Porque, ha apuntado, los países que en cinco años no tengan acceso a la IA más avanzada deberían preocuparse. Además, considera que el resto del mundo necesita al mercado europeo.

Oliver ha explicado a Yoshua Bengio durante el intercambio de preguntas y respuestas de la ponencia en streaming que algunos de los objetivos de la fundación que tiene el científico están alineados con los Ellis Alicante, por lo que la ingeniera cree que existen oportunidades de colaboración, ya que tiene un proyecto para crear una IA que distinga entre hechos y opiniones. La fundación del científico internacional trabaja en lograr avances en medicina y cambio climático, entre otros asuntos.

La alicantina ha querido que el catedrático canadiense experto en IA hablase también de los aspectos positivos de la IA, no solo de los peligros para la humanidad. “Si tenemos una regulación, esta impedirá crear con IA curas médicas para el cáncer”, ha señalado Bengio como ejemplo.

Democracias

Por último, el invitado ha avisado también de los riesgos para las democracias por la dictadura de la IA aunque también entiende que dependerá en gran medida de lo que decidan los gobiernos. Por ello, cree que las instituciones sólidas soportarán los impactos.

Los derechos de autor y el marco regulatorio europeo de la IA han sido otros aspectos en los que ha profundizado desde Inglaterra Yoshua Bengio.

El segundo ponente internacional de esta primera jornada, el matemático Michael I. Jordan, ha tenido que volver a EE UU por cuestiones personales y se ha comprometido a participar el próximo año en el V Forum Europeo de Inteligencia Artificial, según ha anunciado Nuria Oliver.

Suscríbete para seguir leyendo