La Comisión Europea abre una investigación contra X por Grok, la IA de Elon Musk usada para desnudar a mujeres y niños

Crece la presión contra Elon Musk. La Comisión Europea ha abierto este lunes otra investigación contra la red social X por haber desplegado Grok, el asistente de inteligencia artificial que ha sido utilizado por los usuarios para generar imágenes falsas de mujeres e incluso menores de edad desnudos.

Bruselas sospecha que la plataforma antes conocida como Twitter y propiedad del magnate tecnológico podría haber violado la Ley de Servicios Digitales (DSA) al activar Grok sin evaluar ni mitigar adecuadamente riesgos relacionados con la difusión de imágenes manipuladas sexualmente explícitas, de violencia de género y de material de abuso sexual infantil, ambos contenidos ilegales en la Unión Europea.

"Tenemos motivos para creer que X no realizó una evaluación de riesgos específica al implementar estas funciones”, han explicado fuentes de la Comisión, que añaden que al Ejecutivo comunitario no le convencen "las medidas de mitigación que ha tomado la plataforma para controlarlo". Las instituciones europeas advierten que "estos riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a graves daños" para su bienestar físico y mental.

"Degradación violenta e inaceptable"

"Los deepfakes sexuales no consentidos de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la DSA, o si ha tratado los derechos de los ciudadanos europeos —incluidos los de las mujeres y los niños— como daños colaterales de su servicio", ha declarado Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica, Seguridad y Democracia, en un comunicado.

Ante las críticas porque la Comisión no haya actuado hasta ahora, fuentes comunitarias han explicado que el Ejecutivo solo puede intervenir cuando se trata de problemas "sistémicos" en una plataforma. Cuando se trata de casos individuales, son las autoridades judiciales o de protección de datos nacionales quienes deben intervenir.

Al mismo tiempo, la Comisión ha defendido que, de no ser por los contactos con la plataforma que han tenido lugar en las últimas semanas, "ninguno de los cambios que han aparecido habría sido introducido". Con ello se refieren a la decisión de Musk de limitar la generación de imágenes con Grok, cambios que no son suficientes para el Ejecutivo comunitario.

Las leyes europeas obligan a las grandes plataformas de internet a evaluar los riesgos sistémicos de sus productos y servicios antes de implementarlos y abrirlos así al uso ciudadano. La investigación exigirá al hombre más rico del mundo proporcionar un informe sobre ese proceso para probar que se habían tenido en cuenta los potenciales efectos negativos de la funcionalidad que permite a su IA generar todo tipo de imágenes.

Segunda investigación

Paralelamente, la Comisión también ha ampliado otra investigación, en curso desde diciembre de 2023, que estudia un posible incumplimiento de las obligaciones de X en materia de gestión de riesgos de sus sistemas de recomendación. Con ello, si incluye la decisión de la plataforma de cambiar a un sistema algorítmico basado en Grok.

Si demuestra que X ha incumplido la normativa comunitaria, Bruselas podría imponerle una multa cuyo importe máximo podría ser equivalente al 5% de su volumen de negocio mundial diario, lo que significa una sanción millonaria. Además, durante ese período, las instituciones comunitarias se reservan el derecho a adoptar nuevas medidas coercitivas.

El pasado 5 de diciembre, la Comisión impuso a X una multa de 120 millones de euros por incumplir las obligaciones de transparencia establecidas por la DSA al no informar con claridad de cómo opera la publicidad en la plataforma, negar el acceso de los investigadores a sus datos públicos y adoptar un "diseño engañoso" con la marca de verificación azul, un método antes reservado a instituciones o personalidades públicas que Musk vendió al mejor postor para convertirlo en una fuente de ingresos. El magnate respondió a la multa pidiendo la "abolición" de la UE.

Suscríbete para seguir leyendo