Nuria Oliver: “La línea entre persuasión y manipulación en la IA es muy fina”

La tecnología se ha convertido en parte fundamental de nuestras vidas. La inteligencia artificial (IA), que hace unos años sonaba a trama de película de Hollywood a gran parte de la sociedad, ahora está presente en muchos de los productos o servicios con los que interactuamos cada día. Directora científica y cofundadora de la Fundación Unidad Ellis Alicante y vicepresidenta de Ellis Europa, Nuria Oliver, es experta en el arte de trasladar la tecnología a las personas.

Hablamos con ella sobre su elección como representante española en el comité de expertos del Banco Central Europeo (BCE) que rediseñará los nuevos billetes de euro, los proyectos de la fundación y cómo la tecnología ha irrumpido en las vidas de todos.

Nuria Oliver, directora científica y cofundadora de la Fundación Unidad Ellis Alicante

¿Cuál será el diseño de los nuevos euros?

– ¿Qué le ha supuesto que hayan contado con usted para el rediseño de los billetes de euro?

Un gran honor y una cierta sorpresa, no sabía nada de que se iban a rediseñar. Es un privilegio que me hayan seleccionado para formar parte de este comité asesor. Somos 19 representantes de 19 países distintos. La aspiración del BCE es que sea un diseño con el que se puedan sentir representados todos los europeos.

– ¿Cuáles son las propuestas de España para el rediseño de los nuevos euros? ¿Qué tal ha ido la primera reunión con el BCE?

Vamos a estar trabajando hasta julio. Todo forma parte de un proceso más amplio que culminará en el 2024 cuando se hayan decidido los nuevos temas. Dentro de este comité vamos a tener una serie de reuniones en los próximos meses donde iremos trabajando conjuntamente en la propuesta de posibles temas. Acabamos de empezar, estamos en una fase muy temprana de proceso.

El futuro de la moneda

– Vivimos en una sociedad en la que la digitalización es ya una realidad y también una necesidad: ¿cómo debería reflejarse esto en la moneda del futuro? 

Hay una iniciativa paralela del BCE: el euro digital. Uno de los elementos importantes a entender es que evidentemente hay una coexistencia en los métodos de pago digitales. Y esa coexistencia va a perdurar en el tiempo. Según algunas de las ultimas estadísticas, en Europa, un 75 % de los ciudadanos usa el dinero físico para las compras diarias. El dinero físico sigue teniendo una presencia muy grande en nuestra vida y el BCE entiende que habrá coexistencia entre los billetes de papel y el dinero digital.

– ¿Sigue teniendo sentido o seguirá teniéndolo la moneda física en nuestra sociedad? ¿O estamos entrando poco a poco en un mundo de moneda digital?

La expectativa es que el dinero físico va a seguir existiendo y se va a seguir utilizando. Evidentemente, el digital para transacciones de alto volumen es necesario porque tiene mucha más trazabilidad y transparencia. Pero, también es verdad que el físico tiene otros atributos: es más accesible, inclusivo y resiliente. Si hay una caída eléctrica el físico no desaparece como sí puede pasar con las transacciones electrónicas.

La fundación Ellis y la IA

– ¿Qué proyectos tenéis en mente para 2022 en la Fundación Ellis?

La Fundación tiene un foco muy grande en la intersección entre la IA y las personas. Dentro de esta hay muchas áreas de trabajo. Una primera línea es el modelado computacional del comportamiento humano usando IA. Es decir, cómo conseguir que los ordenadores nos entiendan: gustos, necesidades… Por ejemplo, hemos hecho uso de los datos para ayudar en la lucha contra la pandemia. Modelando el comportamiento agregado de la sociedad.

La segunda gran línea es el desarrollo de sistemas inteligentes interactivos que aprovechan los modelos del comportamiento humano para ayudar a las personas.

La tercera es abordar los retos éticos y las limitaciones asociadas con los sistemas de IA actuales. Por ejemplo, lo que se conoce como la discriminación algorítmica, la violación de la privacidad, la falta de veracidad de transparencia, manipulación subliminal del comportamiento humano… Retos éticos que forman parte de la frontera en la investigación en IA y que tenemos que abordar si queremos que tenga un impacto positivo en la sociedad.

La discriminación algorítmica

– ¿Cómo se puede dar solución a estas desigualdades que genera a veces la IA?

Hay muchas maneras de hacerlo y también muchas definiciones de justicia. Dependiendo de estas hay diferentes maneras de abordarlo. En términos amplios, la discriminación se puede intentar eliminar o mitigar en tres puntos distintos, que no son excluyentes entre ellos.

En primer lugar, el preprocesado de los datos. Es decir, el motivo por el que los algoritmos discriminan es porque los datos están sesgados porque hay unos patrones en el mundo real de discriminación. Y como los datos son el reflejo digital de esa realidad subyacente simplemente replican la discriminación que pueda existir. O también pueden estar sesgados por la manera en la que se han capturado. Por ejemplo, queremos hacer un sistema para detectar caras en vídeo y solo usamos ejemplos de hombres de piel clara. Entonces, el algoritmo solo detectará hombres de piel clara cuando el mundo es mucho más diverso.

La segunda familia es lo que se conoce como técnicas de eliminación o mitigación de los sesgos en los propios algoritmos. Dentro del propio diseño se incorporan términos relativos a la equidad, justicia, no discriminación… De manera que las propias operaciones matemáticas están optimizando una función que tiene en cuenta la no discriminación.

Y la tercera familia son las de postprocesado, donde la idea es que, en lugar de tomar directamente la recomendación o clasificación de un algoritmo, se postprocesa la clasificación o recomendación teniendo en cuenta posibles sesgos para intentar contrarrestarlos.

¿Se puede predecir cuándo acabará la pandemia con la IA?

– Hemos alcanzado una alta tasa de vacunación, pero la covid sigue dándonos dolor de cabeza. ¿Se podría predecir también cuándo acabará esta situación? Según los datos que manejas, ¿cuándo habría que relajar las medidas?

Es una pregunta muy difícil de contestar porque estamos ante un sistema muy dinámico, donde el virus está coevolucionando con nosotros conforme pasan los días y las semanas. Entonces, es muy difícil poder predecir la interacción entre la eficacia de las vacunas, el porcentaje de población vacunada, las posibles evoluciones y variantes o nuestro propio comportamiento. Es importante subrayar que el virus no va a desaparecer. Estaremos conviviendo con él mucho tiempo.

– Supongo que sacar adelante un proyecto como este habría sido muy difícil sin la ayuda de la Generalitat.

La unidad de Alicante de Ellis forma parte de una red europea que surge como respuesta ante la debilidad que hay ahora mismo en Europa en investigación e IA. Pero, también en innovación frente Norteamérica y Asia. Europa está en una situación de vulnerabilidad frente a estos gigantes. La IA juega un papel central en la cuarta revolución industrial. Para intentar contribuir y revertir esta situación la propia comunidad científica nos movilizamos y creamos en 2018 Ellis. Se ha convertido en una de las voces principales del liderazgo científico en IA en Europa. Ellis ha lanzado 34 unidades en 14 países europeos e Israel.

De estas 34, la única que hay en España es la de Alicante. Gracias al impulso y al apoyo de la Comunitat Valenciana. Son los principales financiadores de la unidad y los que impulsaron la propuesta.

Tecnología: ¿aliada o enemiga?

– La manera en que la tecnología nos controla, sobre todo a través de redes sociales o con el uso de buscadores como Google, ¿se puede revertir o estamos perdidos?

Este es un área muy importante: la manipulación subliminal del comportamiento humano. La línea que diferencia la persuasión de la manipulación es muy fina. Es un área activa en la que investigamos para que haya más transparencia con respecto al nivel de influencia que tienen todos estos algoritmos de IA con los que interactuamos en nuestro día a día en las plataformas, buscadores, etc. Entender hasta qué punto están influenciando nuestras acciones y decisiones es muy importante. Es muy fina la línea entre persuadir y manipular, es difícil distinguir donde termina una y empieza la otra.

– Quizá también sea un ejercicio individual aprender de la tecnología y donde estamos ofreciendo nuestros datos…

Es absolutamente crítica la importancia y la necesidad de la educación. Como sociedad no vamos a poder tomar decisiones informadas si desconocemos de lo que estamos hablando. Invertir en educación en el contexto tecnológico es absolutamente prioritario, tanto en educación formal como en no reglada a la ciudadanía o a los tomadores de decisiones.

– Se da la paradoja, sobre todo entre los más jóvenes, de que cuanto más conectados más aislados. ¿Es la tecnología nuestra aliada o nuestra enemiga en este sentido?

Esa es una muy buena pregunta a la que muchos autores han querido contestar. La tecnología puede generar una barrera donde estamos sentados unos al lado de otros, pero no estamos hablando, sino mirando nuestras pantallas. Creo que es importante reflexionar sobre este tema y aspirar a hacer un uso positivo de la tecnología.

Sin lugar a dudas la tecnología es clave para la supervivencia y el progreso. De hecho, no habríamos conseguido tratamientos eficaces ni vacunas para el coronavirus, ni modelos predictivos de la evolución del virus, teletrabajar o comunicarnos a distancia si no fuera por ella. Pero, no todo desarrollo tecnológico conlleva un progreso, lo que tenemos que hacer es tener pensamiento crítico para aprovechar las oportunidades que nos brinda la tecnología.

Uno de los potenciales impactos negativos es el sentimiento de soledad o el impacto en la salud mental que puede tener un uso abusivo de la tecnología. No podemos obviar que muchas de las aplicaciones que usamos han sido diseñadas para ser adictivas porque cuanto más tiempo pasamos usándolas más dinero ganan los creadores de esos servicios. Si algo es gratis en internet el producto eres tú. Por eso, es importante la educación, para mostrar las posibilidades y los riesgos.