"La ética en el uso de la inteligencia artificial es clave"

Amaya García Fernández (Oviedo, 1976) es abogada y socia del departamento de derecho digital, privacidad y IT de Cremades-Calvo Sotelo. Está especializada en derecho digital y en las repercusiones que el uso que la inteligencia artificial (IA) tiene en el día a día tanto de los pequeños usuarios como de las grandes corporaciones. Por eso es consciente de la importancia de una normativa como el Reglamento de Inteligencia Artificial de la Unión Europea que este mismo mes empezaba a entrar en vigor.

Nació en Oviedo, hasta los 12 años vivió en Huelva y luego regresó con su familia a Asturias. Cambió de colegio seis veces: "nunca tuve problema, me sirvió. No tengo esos amigos de toda la vida, desde la guardería, pero, por otra parte, es enriquecedor. Me ha servido para ver que hay distintas formas de educar, de ir al colegio, distintos tipos de gente y que en todos se puede encajar".

-¿Cuándo decidió estudiar Derecho?

-Lo había pensado siempre por "La ley de los Ángeles" y, por lo que he comentado con mucha gente, no fui la única. Me parecía una profesión atractiva porque en el colegio no tenía una vocación muy clara de nada. En BUP cogí letras y estuve dos días, me pareció un aburrimiento y cambié a ciencias puras. Me gustó bastante la Física y me lo planteé, aunque al pensar en el futuro me di cuenta que tenía muchas posibilidades de acabar dando clases y era algo que no me apetecía. Cambié por completo y me decidí por Derecho.

-¿Cuál fue su primera toma de contacto con la tecnología?

-De niña, mi tecnología era la televisión y el teléfono fijo, no había nada más. La primera vez fue en el colegio, en segundo de BUP que estudié informática. No había ni Windows, nos enseñaban lenguaje de programación, pero todo muy básico.

-Estudió Derecho en la Universidad de Oviedo, ¿ya se planteaba entonces especializarse en la rama digital?

-Estos temas ni se tocaban, ni siquiera la protección de datos. Me planteé qué quería hacer al acabar la carrera. Buscaba algo diferente, oí hablar del máster de Telecomunicaciones de la Universidad Pontificia de Comillas, que estaba funcionando muy bien, y me llamó la atención. En aquella época estaban los abogados de Telefónica y poco más, entonces sí que es verdad que era un profesional demandada. Ahora me alegro mucho de haber dado el paso porque me gustó. Estuve los primeros años trabajando en Cremades-Calvo Sotelo y luego me fui a KPMG. Allí estaban más centrados en temas de protección de datos y correo electrónico, aunque aprendí mucho porque el modelo de trabajar era más anglosajón. Finalmente acabé regresando a Cremades.

-Su evolución laboral ha ido paralela a los avances tecnológicos.

-Me acuerdo cuando hablábamos de la convergencia, que era el paquete de internet, móvil y fijo, y ahora pienso dónde hemos llegado. Todo converge porque el móvil nos ofrece todo tipo de servicios más allá de una llamada o un mensaje de texto. Podemos acceder a cualquier cosa, pedir comida, hacer una consulta médica en una videoconferencia... Y con la inteligencia artificial, que estamos en plena ebullición, esto va a aumentar mucho más. Nos parece que queda poco por hacer, pero saldrán muchas nuevas cosas y nuevas aplicaciones que ni se nos habían ocurrido.

-Nunca tuvo intención de ejercer como profesora. ¿Cómo valora actualmente esta faceta profesional?

-Fue un proceso natural y surgió por casualidad y me ha resultado apasionante. Tienes muchos frentes abiertos y es precisa una visión muy global. Me ha ayudado mucho dar clases, para hablar en público, aprender a comunicar y ver la evolución de los alumnos. Al principio daba clases de comercio electrónico e internet, ahora son millennials.

-¿Haber nacido con las nuevas tecnologías hace que estás generaciones sean menos cuidadosas?

-Es un arma de doble filo. Por un lado, ven normal contenidos que no lo son; por otro, identifican mucho más rápido los contenidos realizados con IA. Es un peligro y tiene que estar controlado especialmente el acceso a determinados contenidos que están a mano con mucha facilidad.

-En general, ¿hay conciencia entre la ciudadanía de la repercusión de todas estas herramientas?

-Últimamente sí se está poniendo sobre el papel el tema de los riesgos que puede traer la tecnología. La inteligencia artificial tiene muchos riesgos desde todos los puntos de vista. Como usuario, por ejemplo, desde el punto de vista de la privacidad. No sé dónde han ido mis datos, no sé si estoy seguro, qué información traspaso, si me están haciendo un perfil... Hasta casos mucho mas globales como el impacto en el medio ambiente, la guerra tecnológica entre China y Estados Unidos, los microchips, etcétera. Europa se ha quedado un poco atrás y está intentando recuperar esta parte más tecnológica, más de desarrollo de inteligencia artificial. No tenemos ninguna gran empresa tecnológica que se esté dedicando a esto y es algo que se está intentando cambiar.

-¿Todo es negativo?

-No, ahora estamos en plan agorero pero tiene sus cosas positivas. Sí es necesaria una regulación y unas normas de uso. Los usuarios tenemos que saber lo que estamos usando. Cuando comenzó el comercio electrónico, las páginas tuvieron que hacer un esfuerzo por generar confianza en el consumidor. Ahora no nos preguntamos nada, nos hemos acomodado. Tenemos que buscar el término medio entre el exceso de seguridad y la confianza... Pensar quién puede estar detrás o, simplemente, leernos las políticas de privacidad de las aplicaciones.

-¿Debe la normativa ir más allá de la visión legal para introducir la ética?

-Por supuesto. La ética en la tecnología es clave y fundamental. También es un reto. Esa es la idea del Reglamento de Inteligencia Artificial de la Unión Europea, no tanto regular la tecnología en sí, sino cómo darle un enfoque ético. No se pueden desarrollar tecnologías que vayan en contra de los derechos fundamentales. Cuando hablamos del desarrollo ético de la tecnología va orientado sobre todo a esto, a proteger al ciudadano y los derechos fundamentales. Es dónde se debe poner el enfoque.

-Habla del reglamento de la Unión Europea. ¿En qué consiste?

-Trata de regular el uso que se va a hacer de la inteligencia artificial. Las empresas deberán hacer un análisis de riesgo y tendrán más obligaciones o menos en función del nivel en el que estén. Ahora han entrado en vigor las prohibiciones que recoge la normativa. Esto afectaría, por ejemplo, a las cámaras de vigilancia y el uso de la inteligencia artificial para hacer análisis y perfiles de comportamiento. Hasta la policía deberá cumplir requisitos para desarrollar actuaciones de estas características. Se trata de implantar un modelo de gobernanza de los sistemas de IA.

-¿Las administraciones tienen capacidad para que la normativa siga el ritmo de la tecnología?

-La normativa siempre va por detrás, desde el inicio de los tiempos. En todas las áreas va primero la costumbre y luego el derecho. Sorprendentemente, con la IA hemos ido bastante a la par. Ha habido un salto enorme mientras se elaborada, pero se ha intentado que sea muy genérica. El enfoque está pensando para que sea una norma con recorrido y duración. Normalmente se intenta tener previsión de futuro para que se pueda seguir aplicando con los años.

-¿Ha cambiado el perfil de sus clientes?

-Hemos notado un incremento de consultas a nivel de usuario. Temas de desinformación, de retirada de contenidos, de contenidos ilícitos... Recientemente se aprobó el Reglamento de Servicios Digitales, que regula precisamente la retirada de contenidos cuando son ilícitos. Si bien en la mayoría de los casos está enfocado a contenido penal, también a todo aquel que vulnere el ordenamiento, como los derechos de propiedad intelectual, privacidad... Es un paso adelante y nos está dando mucho trabajo. La regulación de las nuevas tecnologías no afecta solo a grandes empresas. Hay startups con 10 en plantilla, pero que desarrollaron un software súper potente que las obliga a estar sujetas a normativas como si fueran una gran empresa.

-¿Qué retos tiene el sector?

-Bastantes, de lo pequeño a lo grande. Desde adaptarnos nosotros a utilizar las herramientas de IA en el día a día y saber usarlas bien hasta decidir qué tipo de herramientas realmente necesitamos. A veces se ponen de moda determinadas aplicaciones y todo el mundo quiere tenerlas cuando realmente no las necesitan. Si hablamos de un enfoque global, la regulación es compleja y muy transversal. Hay que cumplir con el reglamento de inteligencia artificial y también con la protección de datos, la propiedad intelectual, los secretos profesionales... Hay muchos frentes abiertos de los que la gente no es consciente hasta que no le afectan, y muchas empresas pequeñas sin capacidad para adaptarse y cumplir con todos ellos.