La inteligencia artificial desnuda la baja educación de los menores

En junio de 2019, el medio estadounidense "Vice" denunció la existencia de DeepNude, una "horrible" aplicación que podía desnudar a cualquier mujer. El usuario solo tenía que colgar una foto de la víctima, pagar 50 dólares y esperar a que la inteligencia artificial (IA) del programa se encargase de quitarle la ropa. Los resultados eran tan creíbles que su uso se disparó, pero el alud de críticas recibidas obligó a sus creadores a cerrar el proyecto a las pocas horas.

Cuatro años después, el problema es mucho mayor. DeepNude desapareció, pero en su lugar han surgido decenas de otras aplicaciones similares. Una de esas es la que ha utilizado un grupo de niños de Almendralejo (Badajoz) para desnudar sin consentimiento a sus compañeras de colegio, menores de edad. "La imagen es superrealista y, además de viralizarse entre ellos, las pueden haber subido a sitios de internet tipo Onlyfans", explica Miriam Al Adib, madre de una de las víctimas.

El caso ilustra un nuevo método de violencia digital contra las mujeres cada vez más popular. Un simple vistazo a Google Trends es suficiente para constatar como las búsquedas sobre esas aplicaciones se han disparado durante el último año. "Es un fenómeno que empieza a preocupar muchísimo porque no hay ningún tipo de regulación sobre ello y es muy difícil tanto cuantificar el uso de imágenes que circulan como identificar a quienes lo hacen", explica Eva Cruells, coordinadora de la línea de atención de Fembloc, una iniciativa feminista contra las violencias machistas digitales.

En un principio, este tipo de contenidos manipulados –conocidos como deepfakes– apuntaban principalmente contra mujeres famosas. Los rostros de Gal Gadot, Jennifer Lawrence o Scarlett Johansson eran recortados e incrustados en escenas pornográficas que después eran colgadas en páginas para adultos. En enero de 2021 se habían detectado más de 82.000 de esos vídeos ilícitos, según un recuento de la compañía "Sensity". Aunque es muy difícil de contabilizar, las cifras actuales serían muy superiores.

Ese auge se debe a la normalización del mercado de la inteligencia artificial, en plena expansión. Es en ese contexto que han florecido multitud de aplicaciones que intentan hacerse un hueco a costa de desnudar a chicas sin consentimiento. Su uso es cada vez más sencillo y sus resultados, más creíbles. Esa suma de factores ha facilitado que está tecnología pueda ser usada de forma problemática por todo tipo de públicos.

Los personajes públicos, como Rosalía o la influencer Laura Escanes, siguen estando en la diana de esos ataques. Sin embargo, la facilidad de acceso a esos programas está propagando su impacto a todo tipo de mujeres, también niñas, como muestra el caso de Almendralejo. "El mensaje es que cualquier chica puede ser expuesta, es un señalamiento muy claro sobre la sexualidad de muchas adolescentes", añade Cruells.

Esta forma de violencia digital de género puede golpear la salud mental de las víctimas. Un 54% de las mujeres que han sufrido acoso en internet han experimentado ataques de pánico, ansiedad o estrés, mientras que un 42% de las jóvenes han mostrado estrés emocional, baja autoestima y pérdida de autoconfianza, según un estudio del Observatorio Nacional de Tecnología y Sociedad (Ontsi) del año pasado. "Así es sentirse violado, así es sentirse explotado", denunció en enero la streamer QTCinderella, víctima de los deepfakes.

Aunque se trate de una simulación, la distribución de contenidos sexuales de esta índole es un delito. Incluso podría tratarse de pornografía infantil si afecta a una menor. Es por eso que desde Fembloc aseguran que la denuncia pública es una buena práctica para exponer el impacto que tiene y para "apelar al sentido común". "Hay que sensibilizar mucho y generar una comunidad que rechace este tipo de agresión", añade Cruells.

Recrear imágenes sexuales falsas es ilegal, pero aun así es muy fácil encontrar este tipo de contenidos en internet. En una búsqueda rápida en Google aparecen todo tipo de enlaces, desde los que recomiendan las mejores aplicaciones de IA para crear desnudos a portales donde se cuelgan.

El filósofo Eduardo Infante, profesor en un instituto de Gijón, apunta a LA NUEVA ESPAÑA qu "la noticia me recuerda a un viejo caso: Pericles y Protágoras permanecieron un día discutiendo sobre quién era el culpable de un accidente en el que un atleta había matado con el lanzamiento de su jabalina a uno de los espectadores ¿Sería el lanzador o los organizadores de la competición, que no garantizaron la seguridad de los espectadores o la misma jabalina? Parece ser que la discusión terminó sin acuerdo... ¿De quién es la culpa en el caso que nos atañe a nosotros de la IA, de lo chavales, de los educadores y de los padres, de los programadores, de los políticos por no haberlos regulado?"

El debate, señala, "es muy interesante. Lo que sí está claro es que deberíamos proteger y regular el acceso de lo menores a este tipo de tecnología como así hacemos con los fármacos, el alcohol, el juego, la conducción de vehículos, etcétera".

Explica que "nadie en su sano juicio dejaría conducir un coche a un niño y sin embargo les dejamos, sin ningún tipo de supervisión ni de formación, acceso a una tecnología mucho más potente y lesiva. Los jóvenes aún no han tenido tiempo de formar su razonamiento moral y, encima, nuestros políticos han suprimido la ética de la enseñanza obligatoria por asignaturas que forman "el espíritu emprendedor".

"Lo que me asombra", indica, "es que nos asombre que ocurran cosas como estas. Una cosa es enseñar a usar un instrumento y otra cosa bien distinta (y superior) es enseñar a usar ese instrumento al servicio de fines éticos, esto es, fines buenos para la vida humana. Este tipo de conocimiento lo proporciona la ética".

Por su parte, la sexóloga asturiana Soraya Calvo recuerda que "l acceso a la tecnología es algo con lo que vamos a tener que convivir cada día de manera más intensa. La IA ha llegado para quedarse y la única forma de controlar su desarrollo sería con legislación (nacional, europea...) que podría evadirse tal y como se hace con otras normas. Supongo que no hay una solución rápida a este problema, pero estoy segura de que todas las existentes pasan por incorporar la alfabetización mediática crítica en las aulas".

A eso, añade, "debemos de sumarle que la coeducación y la educación sexual son las otras protagonistas en esta ecuación, y que llevamos denunciando muchos años la inexistencia real de estos contenidos en el currículum reglado. Obviamente la educación formal no es la panacea, pero si es la forma más equitativa de garantizar unos mínimos universales que traten las cuestiones más urgentes, como la prevención de la violencia machista. Tenemos un horizonte que debemos afrontar siendo conscientes de que los menores tienen acceso a tecnologías muy sofisticadas y que no podemos hacer oídos sordos a esta realidad".

¿Pueden casos como el de Almendralejo hacer un daño irreparable en las víctimas? Calvo matiza que "eso es muy personal, y que victimizar tampoco es la clave para entender mi solucionar estos problemas. De todas maneras es evidente que hay personas a las que esto les puede suponer una dificultad emocional que debemos abordar". Es partidaria de que haya una regulación, "es importante que se apliquen normativas que eviten el uso de las tecnologías para discriminar, acosar o violentar; pero creo que este control es complejo".

Más casos

La Policía Nacional recibió el viernes dos denuncias en Alcalá de Henares por la difusión de fotografías de menores que fueron presuntamente desnudadas mediante un programa de inteligencia artificial. Los agentes han identificado al presunto autor de los hechos, también menor, pero no fue detenido. Estas denuncias se suman a las registradas por casos similares en Almendralejo (Badajoz) y Ayamonte (Huelva). En Almendralejo se han denunciado 22 casos, aunque no se descarta que pueda haber más, y se ha identificado a varios de los presuntos autores.

En Ayamonte está siendo investigado un menor como presunto autor de un delito contra la intimidad.

Suscríbete para seguir leyendo