Mujeres al Timón
Nuestra entrevistada es Honoris Causa por la Universidad Miguel Hernández, también académica en la Real Academia de Ingeniería, miembro electo de la Europea y de CHI Academy, grupo de Interés Especial en Interacción Computadora-Humano, donde es la única española.
Comisionada de la Generalitat Valenciana en Inteligencia Artificial y Ciencias de Datos en la lucha contra la covid-19 durante la pandemia, es inventora de 41 patentes.
Hablamos con Nuria Oliver, vicepresidenta de ELLIS Europa (European Laboratory for Learning and Intelligent Systems) y directora de la Fundación ELLIS Alicante.
¿Un impacto social positivo?
– Lleva más de 25 años investigando cómo modelar el comportamiento humano usando técnicas de Inteligencia Artificial. Pero es ahora cuando ha expresado que siente preocupación por su impacto en las personas. ¿Por qué?
A lo largo de mi carrera he inventado habitaciones, ropas, coches y teléfonos móviles inteligentes. He sentido en primera persona la felicidad profunda que te invade cuando lo que no era más que una idea, a veces incluso un tanto alocada, se convierte en una realidad que puede ayudar a millones de personas.
La inspiración y el motor de mi trabajo han sido, durante toda mi carrera, preguntas con una clara aplicación social. La persona, en sentido individual y colectivo, ha sido y es el elemento central en todos mis proyectos: tecnología dotada de inteligencia por y para la sociedad, tecnología capaz de entendernos como paso previo a ayudarnos.
Sin embargo, no podremos desarrollar todo el potencial de la inteligencia artificial si no abordamos sus limitaciones actuales, por ejemplo: los sesgos y la discriminación algorítmica, causados, en parte, por entrenar modelos de IA con datos sesgados; la violación computacional de la privacidad; la falta de transparencia; la asimetría con respecto al acceso a los datos y al conocimiento y habilidades; la manipulación del comportamiento humano; la fragilidad, dado que los algoritmos pueden ser hackeados; y la falta de veracidad: con algoritmos de IA podemos crear contenidos sintéticos de video, texto, fotos, audio (deep fakes) indistinguibles del contenido veraz.
Durante estos 25 años he sido testigo del papel cada vez mas importante que la IA juega en nuestras vidas. De hecho, es el motor de la cuarta Revolución Industrial en la que nos encontramos inmersos. Esta transversalidad y ubiquidad de la IA la hacen tremendamente poderosa.
Esta omnipresencia de la IA combinada con las limitaciones y los retos éticos que plantea son los dos principales motivos que alimentan mi preocupación. Precisamente fruto de esa preocupación surge ELLIS Alicante, para contribuir a que la IA tenga impacto social positivo.
Pioneros en la regulación
– El origen de la inteligencia artificial se remonta a los avances que Alan Turing logró durante la II Guerra Mundial en la decodificación de mensajes. En los años 50, antes que la web. Sin embargo, en los últimos meses, el chatGPT, tecnología desarrollada por la compañía OpenAI, ha cambiado totalmente el panorama. ¿Es usted partidaria de una regulación? O como Andrew Ng, no es el momento de preocuparse del dominio de las máquinas sobre los humanos.
Como cualquier tecnología, sus usos deberían ser regulados para evitar consecuencias no deseadas en la sociedad. Europa esta siendo pionera en este sentido ya que desde abril de 2021 se esta trabajando en la elaboración y aprobación parlamentaria de una regulación europea de Inteligencia Artificial, conocida como el AI Act.
Esta regulación está articulada alrededor de una estimación del riesgo del uso de sistemas de IA, de manera que, a mayor riesgo, mayor regulación.
Cuestión de algoritmo
– «La inteligencia artificial es el mayor riesgo para el periodismo y la sociedad», ha señalado Marty Baron, exdirector del Washington Post ¿Qué opina usted?
Los grandes modelos generativos de IA tienen la capacidad de crear, de manera automática y casi instantánea, textos, imágenes, videos y audios sintéticos y no necesariamente veraces, pero indistinguibles del contenido veraz.
Por ello, plantean grandes retos para el periodismo. Al mismo tiempo, creo que ofrecen una gran oportunidad al sector de la comunicación para posicionarse como garante de la veracidad de los contenidos difundidos y compartidos por los distintos medios reputados.
Es importante entender que puede llegar un momento en que la mayoría del contenido en internet haya sido creado por algoritmos.
IA generativa, ¿el futuro?
– ¿La IA generativa será la próxima revolución?
Los modelos generativos de IA existen desde hace décadas. Sin embargo, nunca habían alcanzado un nivel de competencia y versatilidad tan elevado como hasta ahora. De ahí que estén impactando en muchos ámbitos de la sociedad.
Por ejemplo, los grandes modelos de lenguaje como GPT3 y 4 pueden utilizarse para numerosas tareas y casos de uso, como la traducción automática, la generación de textos de distinta naturaleza (poemas, canciones, resúmenes, artículos periodísticos o ensayos), el análisis de sentimientos o la programación (generación de código o traducción de un lenguaje de programación a otro, por ejemplo).
Además, permiten construir chatbots (como ChatGPT) con los que se puede conversar de una manera natural, similar a como se haría con un humano, permitiendo automatizar tareas relativas a la atención al cliente, por ejemplo.
Al mismo tiempo, estos sistemas no están exentos de limitaciones, entre los que destacaría: (1) la necesidad de acceder a una gran cantidad de datos y a un costoso proceso de entrenamiento especializado, lo que probablemente solo está al alcance de un pequeño grupo de instituciones, empresas o personas, generando una situación de asimetría y exceso en la acumulación de poder; (2) los sesgos y posibles patrones de discriminación que estos modelos pueden no solo replicar sino exacerbar; (3) la falta de veracidad; (4) la potencial violación de la privacidad y los derechos de propiedad intelectual si se utilizan datos personales sin consentimiento para entrenar estos sistemas; (5) la falta de transparencia; (6) la ingente huella de carbono; (7) la manipulación del comportamiento humano por parte de estos sistemas, etc.
Educar la próxima generación
– ¿Cómo compiten Europa, España y la Comunitat Valenciana, en estos avances frente a EE.UU. Unidos, China o Rusia?
Tanto en Europa como en España y la Comunitat Valenciana hay definidas ambiciosas estrategias de Inteligencia Artificial que reflejan las inversiones, prioridades y visión para el desarrollo de la IA en Europa, una IA confiable y siempre centrada en las personas y en el planeta.
En el ámbito de la investigación, hemos creado ELLIS Europa para atraer, retener y educar a la próxima generación de talento investigador excelente en IA en Europa. Tenemos que abordar la fuga de talento, especialmente en IA, que impacta tanto en nuestro continente como en nuestro país.
– 2050: es el plazo que China se ha marcado para desarrollar máquinas con sentido común. ¿Ciencia ficción o realidad?
Es difícil de contestar esta pregunta, ya que habría que definir qué quieren decir exactamente por sentido común. Lo que es indudable es que China tiene la visión más ambiciosa del planeta ahora mismo con relación a la Inteligencia Artificial. Entienden que quien lidere en Inteligencia Artificial conseguirá ser la primera potencia en el ámbito internacional y esa es su aspiración.
¿Podemos usar la IA?
– ¿Qué papel juegan las empresas en todo esto? ¿Qué deben hacer? De momento, sólo el 11,8 % con más de diez trabajadores usa la inteligencia artificial.
Las grandes empresas sin duda ya están utilizando IA desde hace décadas. Dado que los métodos actuales de IA están basados en el aprendizaje a partir de datos, si las empresas no tienen grandes cantidades de datos propios quizás no encuentren casos de uso internos donde aplicar la IA.
Sin embargo, hay muchos ámbitos donde podría utilizarse como son las relaciones con los clientes, las predicciones de oferta y demanda, la gestión de la logística, la personalización de los productos, etc. dependiendo del sector, evidentemente, hay distintos casos de uso.
Investigar la IA
– ¿Qué misión tiene ELLIS Alicante?
Es la única fundación de investigación en nuestro país que forma parte de la red ELLIS europea de excelencia científica en Inteligencia Artificial. Además, es la única que tiene como foco la investigación en IA ética, responsable y centrada en las personas.
Creo firmemente en el potencial que tiene la Inteligencia Artificial para ayudarnos a afrontar los retos del siglo XXI y a sobrevivir como especie. Sin embargo, para conseguir realizar este potencial, es prioritario invertir en el desarrollo de una Inteligencia Artificial inclusiva, sostenible, justa, transparente y siempre centrada en las personas y el planeta. Esa es la misión de ELLIS Alicante.
– Usted es la representante española en el grupo de expertos que el Banco Central Europeo ha creado para rediseñar los nuevos billetes de euros para 2024. ¿Cómo va el tema? ¿Usarán la IA?
Poder representar a España en el grupo de expertos para el rediseño del euro fue una experiencia inolvidable y única. En nuestro grupo propusimos potenciales temas sobre los que podrían versar los nuevos billetes. La siguiente fase es recibir el feedback de la ciudadanía con respecto a los temas propuestos y lanzar una competición para el diseño de los billetes según el tema elegido. Habrá que seguir la evolución de este proceso. Tengo curiosidad por ver el resultado final.
