El Principado de Asturias pone en marcha un órgano de control ético para la IA en la gestión pública

La implantación de tecnologías de Inteligencia Artificial (IA) en la gestión pública ha llevado al Gobierno del Principado a crear el Comité de Supervisión Ética, Normativa y de Innovación en IA de Asturias (SENDIA), un nuevo órgano destinado a reforzar el control, la transparencia y la supervisión independiente de los sistemas de inteligencia artificial utilizados por la Administración autonómica y su sector público. Esta medida se alinea con el Reglamento Europeo de Inteligencia Artificial (RIA), que obliga a las administraciones a garantizar un uso seguro, transparente y respetuoso con los derechos fundamentales de la ciudadanía.

Un "vigilante ético" de la inteligencia artificial

El nuevo comité nace con la misión de aportar una visión independiente, multidisciplinar y especializada en aquellos proyectos de inteligencia artificial que puedan tener impacto sobre las personas. Aunque sus informes no serán vinculantes, sus dictámenes servirán de apoyo a la dirección general competente en materia de IA antes de autorizar el despliegue de determinados sistemas tecnológicos.

Entre sus principales funciones destacan la evaluación de riesgos para los derechos fundamentales, el análisis de posibles efectos discriminatorios de los algoritmos, la supervisión del impacto social y medioambiental de las herramientas de IA y la formulación de recomendaciones para corregir o incluso retirar sistemas que puedan generar perjuicios.

Especial atención a colectivos vulnerables

Una de las novedades del decreto es la obligación de analizar específicamente los riesgos de discriminación directa o indirecta derivados del uso de algoritmos, especialmente en ámbitos sensibles como los servicios sociales, la igualdad o la atención ciudadana.

El comité también estudiará el impacto que estas tecnologías puedan tener sobre colectivos vulnerables, con el objetivo de evitar sesgos o decisiones automatizadas que puedan afectar negativamente a determinados grupos de población.

Universidad, empresas, sindicatos y expertos

SENDIA estará integrado por representantes de la Administración autonómica, la Universidad de Oviedo, centros tecnológicos, organizaciones empresariales, sindicatos, entidades sociales y profesionales especializados en informática.

La composición busca garantizar una visión plural que combine conocimientos técnicos, jurídicos, académicos y sociales sobre el desarrollo y aplicación de la inteligencia artificial.

Entre los participantes figurarán representantes de la Federación Asturiana de Empresarios (FADE), el Clúster TIC Asturias, el Colegio Oficial de Ingeniería en Informática, el tercer sector y los dos sindicatos más representativos de la comunidad autónoma.

Formación y buenas prácticas

Además de sus tareas de supervisión, el comité colaborará en la elaboración de guías, protocolos y programas de formación para empleados públicos, incorporando criterios éticos y jurídicos al uso cotidiano de herramientas de inteligencia artificial.

También podrá emitir recomendaciones sobre buenas prácticas, metodologías de evaluación de riesgos y mecanismos de supervisión humana, aspectos considerados clave por la normativa europea.

Sin incremento del gasto público

El decreto establece que la creación del Comité SENDIA no supondrá un aumento del gasto público. Su funcionamiento se apoyará en los recursos humanos y materiales ya existentes dentro de la Consejería competente en materia de inteligencia artificial.

El nuevo órgano celebrará al menos dos reuniones ordinarias al año y podrá constituir grupos de trabajo especializados para analizar cuestiones concretas relacionadas con la evolución de la IA y sus implicaciones para la sociedad.

Asturias refuerza su modelo de gobernanza digital

Con la creación de SENDIA, Asturias da un paso más en la construcción de un modelo de gobernanza de la inteligencia artificial basado en la transparencia, la rendición de cuentas y la protección de los derechos de la ciudadanía.

El Ejecutivo autonómico considera que las decisiones sobre tecnologías capaces de influir en la vida de las personas no deben depender únicamente de criterios técnicos, sino incorporar también perspectivas éticas, jurídicas y sociales que refuercen la confianza pública en la transformación digital de la Administración.

Suscríbete para seguir leyendo