La Nueva España

La Nueva España

Contenido exclusivo para suscriptores digitales

En la nube

Google suspende en ética

La compañía disuelve en menos de una semana un consejo para regular la inteligencia artificial por comentarios transfóbicos de algunos de sus integrantes

El comité de ética de Google.

"Los algoritmos son opiniones que se convierten en código". Esta es la visión de Cathy O'Neil, doctora en Matemáticas en Harvard, experta en ciencia de datos y autora del libro "Armas de destrucción matemática". Partiendo de que el algoritmo no es objetivo y sus prejuicios pueden "codificar el sexismo o cualquier otro tipo de fanatismo", es vital educarlo desde pequeño y hacer que su ética sea impecable. Google es una auténtica incubadora de algoritmos basados en inteligencia artificial y teme crear monstruos. La semana pasada fundó un Comité de Ética de Inteligencia Artificial que tuvo que disolver días después porque seleccionar a los encargados de enseñar ética a la máquina no es una tarea sencilla. Una de ellas fue destituida por comentarios homófobos y xenófobos.

La escuela de ética de Google se puso en marcha el pasado martes para analizar el uso de la inteligencia artificial y evitar la violación de los principios éticos de la compañía. Un ejemplo del sesgo del algoritmo: encontrar en internet páginas que reafirman las creencias de cada usuario porque las búsquedas se basan en sus gustos e intereses (el sesgo de confirmación). Otro ejemplo sexista: el traductor de Google traduce "doctor" como "médico" (y no médico/a) y "nurse" como "enfermera" (y no enfermero/a). Para detectar estas fisuras, la compañía seleccionó a ocho "guardianes de la ética", expertos en diversas áreas, tales como las matemáticas, la filosofía, ingeniería, informática, política pública o psicología. Pero el experimento no pasó de la selección de personal.

La incorporación de Kay Coles James, presidenta de la Fundación Heritage (un centro conservador de investigación política), le pasó factura a Google. Los empleados de la compañía se alzaron contra la participación de James en el consejo por sus comentarios transfóbicos y contra el colectivo LGBT o los inmigrantes. Más de 2.000 empleados, agrupados bajo el lema "Googlers contra la transfobia", firmaron una carta exigiendo la destitución de James del Comité para evitar que imprimiese su ideología en la inteligencia artificial del futuro. Numerosos académicos firmaron la petición de destitución y otros miembros del comité, como el reputado economista Alessandro Acquisti, dimitió al no sentirse "en el foro adecuado para su participación".

Sin un cuarto de la plantilla, Google tuvo que cerrar su escuela de ética. Desde la compañía aseguran que continuarán "siendo responsables de nuestro trabajo en lo que se refiere a cualquier materia relacionada con la IA y sus riesgos, y buscaremos diferentes opiniones de externos en caso de necesitarlo". Y lo necesitarán porque el sesgo de la inteligencia artificial es uno de los temas que más preocupa a la compañía, tal como explicó a sus inversores en el informe de resultados de principios de año. Sundar Pichai, CEO de Google, advierte que los nuevos productos y servicios inteligentes "pueden plantear nuevos desafíos éticos, tecnológicos y legales".

Google no quiere meter la pata en esto porque sabe que es un paso vital para la humanidad. "La forma en que se desarrolle y se utilice la inteligencia artificial tendrá un impacto significativo en la sociedad durante muchos años", explica Pichai. Pero ¿quién le pone el cascabel al gato? Sobre todo cuando el gato es una máquina que aprende por sí misma...

Compartir el artículo

stats