Mujeres al Timón
Hablamos con Nuria Lloret, directora del Observatorio en IA y Diversidad, un organismo único en el ámbito internacional y que cuenta con el apoyo de la Universitat Politècnica de València (UPV) e Ineco. Su objetivo, analizar las herramientas de IA de la mano de sus usuarios con el fin de reducir los riesgos que puedan derivarse de su uso. El observatorio actuará como un centro de estudio y análisis, reuniendo a expertos en ética, tecnología, economía, derecho, sociología y otras disciplinas relevantes para explorar las interacciones entre la IA y la sociedad
– ¿Por qué os habéis lanzado a poner en marcha este Observatorio en IA y Diversidad?
Siempre trabajo con la idea de que la tecnología sea inclusiva desde el punto de vista más humano. Con lo cual, como tecnóloga, todas mis investigaciones y trabajos van enfocados a conseguir este objetivo.
Ya llevábamos años trabajando con cuestiones como la inmersividad y la diversidad. Con la llegada de la inteligencia artificial (IA) empecé a trabajar con un equipo de gente probando todas las herramientas que están saliendo y estamos viendo barbaridades.
– ¿Con qué problemas os estáis encontrando?
Nos estamos encontrando que la mayoría de gente no tiene conocimientos sobre el uso de la IA, pregunta a la herramienta cómo puede y lo gasta como puede, pero no sabe cómo manejarla para que los resultados sean más convenientes. Pero, por otro lado, la gente tampoco tiene conciencia de diversidad.
El Observatorio centra su actividad en la diversidad y no es de género, raza, edad… porque la diversidad, actualmente, es un problema global.
Nos dimos cuenta que era interesante analizar las herramientas con gente que entiende de diversidad y que conoce poco la tecnología para ver cómo ellos sí que enfocaban.
– ¿Cuáles son los objetivos del Observatorio?
El Observatorio se ha concebido con una serie de ejes. El primero de ellos consistiría en analizar, que ya lo estamos haciendo, con entidades colaboradoras como la Asociación de Empresarias y Profesionales de Valencia (Evap), Woman in AI o la Fundación Diversidad y se están incorporando más colectivos.
Mayor familiaridad con la IA
El objetivo está en que estas entidades colaboradoras contesten unas encuestas y además realizarán unas búsquedas con determinadas herramientas que les vamos a proponer para que ellos vean qué resultados obtienen. Con esos resultados intentaremos demostrar que, efectivamente, esas herramientas no están diseñadas con algoritmos que regulen los sesgos. A partir de ahí, nosotros elaboraremos esos informes que se presentarán en el Observatorio. Y es posible que decidamos entre todos hacer un ranqueado de aquellas herramientas que son más respetuosas con la diversidad.
También estamos pensando que no solo sean expertos, sino hablar con asociaciones más generalistas como la OCU, Tiriys, etc., para que aquellos que no están familiarizados ni con la IA, ni con la diversidad, hagan las búsquedas y sean capaces de decidir si lo ven bien o mal.
Diversidad en el ámbito internacional
El segundo eje estaría relacionado con estudios de caso. Hay gente que está trabajando sobre temas de diversidad en el ámbito global. Nosotros vamos a buscar toda esa información y todas esas propuestas y las vamos a aglutinar. Y vamos a establecer un think tank de expertos de nivel internacional interesados tanto en diversidad como en IA.
De esta forma, contamos con un conocimiento global sobre esta cuestión. También vamos a buscar normativa. Por desgracia, normativa de IA y diversidad a nivel global no hay nada. Solo en Europa tenemos la primera directiva donde ya se está hablando sobre protección de datos personales.
– ¿Quién y cómo se financia el Observatorio?
Está financiado por la Universitat Politècnica de Vaència (UPV) y por Ineco, multinacional dependiente del Ministerio de Fomento, que cuenta con convenios de colaboración con las universidades y además tiene un área de diversidad y la movilidad. La compañía pública de gestión privada se encarga del mantenimiento de las infraestructuras de transporte españolas.
También estamos hablando con otras entidades, ya que hay muchas que quieren colaborar tanto desde el punto de vista de usuarios como desde el punto de vista de colaboradores de desarrollo del Observatorio. Aquellos que colaboran en la parte de la encuesta no financian.
Tanto desde el equipo de investigación (UPV) como desde Ineco estamos abiertos a cualquier tipo de colaboración porque estos proyectos sin financiación no se pueden llevar a cabo.
Ningún proyecto igual en el ámbito internacional
– ¿Cuánta financiación necesitáis?
Estamos trabajando ahora mismo con una financiación pequeña. Este tipo de proyecto puede necesitar entre 50.000 € y 70.000 € anuales para funcionar bien. Ahora estamos trabajando con mucho menos porque estamos arrancándolo y hay un interés tanto por parte de Ineco como por parte de la UPV para que vaya adelante, ya que no existe ninguno en el ámbito internacional.
– ¿Vamos a poder ponerle puertas a este campo?
Esto es otra revolución brutal que va a cambiar nuestra forma de trabajar, mucho más que otras anteriores. La gente no es consciente de ello y estamos en el momento de una “ciudad sin ley”.
Pero si hay gente que intentamos cambiar las cosas como es el caso de este Observatorio que hemos creado, que al final, no es más que una pulga en un garaje.
Pero si entidades internacionales, universidades, entidades externas… empezamos a poner el foco en controlar, acotar o redirigir… funcionará.
– ¿Has comentado que sois los primeros en poner una iniciativa de este calibre en el ámbito internacional. ¿Cómo os estáis abriendo camino?
Con los contactos que tenemos en universidades de Estados Unidos y en otros países como México o Colombia donde estamos presentando el Observatorio y a la gente le gusta. De todas formas, pienso que el punto internacional lo van a aportar los expertos y de ahí la idea de tener el think tank.
– ¿Ya tenéis expertos con nombres y apellidos?
Sí, pero todavía no hemos publicado sus nombres porque estamos viendo con ellos cómo vamos a presentarles. Te puedo adelantar que hay gente de todos los perfiles desde el ámbito académico a representantes de empresas de desarrollo de software y que está preocupada por esta cuestión, hasta personas del cuarto sector y personas provenientes del mundo del Derecho.
Probablemente en enero y en Madrid se presentarán los primeros informes de las encuestas realizadas con las asociaciones que ya participan y la presentación de los miembros del think tank.
– ¿En qué consiste el análisis que habéis pasado a las instituciones colaboradoras?
A todas las asociaciones les vamos a pasar un formulario que estamos ultimando y que integra preguntas generalistas y otra parte de ejercicios que deben realizar con las herramientas y que sí que son específicas de cada temática de las asociaciones.
– ¿Qué herramientas son?
Estamos utilizando herramientas gratuitas para el testeo porque es lo que está utilizando la gente.
