Nuria Lloret, AECTA: «Quizá la UE no deba liderar en IA, sino en derechos»

Del 12 al 13 de noviembre, València acogerá el VIII Congreso de Tecnologías Emergentes 2025 y, que se celebrará en paralelo al Women in AI International Talk. Una jornada con un marcado acento internacional y que centrará —en Las Naves y La Harinera— el foco en iniciativas de uso responsable de la inteligencia artificial, con la tecnología como herramienta para romper barreras y ampliar la inclusión.

Organizado por la Asociación empresas de Tecnología, Consultoría, Innovación de la Comunidad Valenciana (AECTA) y Women in AI, ambos encuentros suman miradas complementarias. El 12 de noviembre, Women in AI analizará el papel del talento femenino y el impacto de la IA en la desinformación, con una ponencia inaugural de Mercedes Wullich y la presencia de entidades y firmas como UNESCO, Maldita, EU DisinfoLab o Graphika. El 13 de noviembre, el congreso incidirá en diversidad y en una IA integradora.

Hablamos con Nuria Lloret, presidenta de AECTA y City Lead de Women in AI en València, nos habla de lo que los asistentes podrán ver en el congreso.

La edición más internacional: ponentes y miradas

– Comencemos con algo de contexto, ¿cómo será la edición de este año del Congreso y qué podemos esperar de ella?

Este año el Congreso gira en torno a inteligencia artificial, diversidad y sesgos. Hemos unido el VIII Congreso de Tecnologías Emergentes con el primer Women in AI International Talk, porque compartimos vínculos y creemos que podemos generar muchas sinergias.

Women in AI International es una federación de mujeres que trabajan en IA a nivel global; existe un núcleo en España y desde ahí organizamos este primer encuentro para hablar específicamente de IA, género y diversidad.

– Por qué unir ambos congresos?
Porque comparten fondo, pero enfoques distintos. En Tecnologías Emergentes ponemos el acento en el uso de la IA en empresas, entidades y en cómo esa adopción introduce nuevas miradas sobre diversidad.

El primer día nos centraremos en género y diversidad de género; el segundo, en una visión más amplia de la diversidad que afecta a cualquier implantación de IA.

La inauguración la hará la presidenta internacional de Women in AI, con sede en Bruselas y vinculada a UNESCO en IA y diversidad. En Tecnologías Emergentes traemos dos profesoras de EE. UU. y dos grandes empresarios de Estados Unidos y Francia. Vendrán a explicar cómo la diversidad está transformando modelos de negocio y productivos con ejemplos reales.

– La IA se nutre de grandes volúmenes de información. Ahí aparecen los sesgos.

Las herramientas actuales se apoyan en modelos algorítmicos creados por organizaciones con sus intereses, visiones concretas y que, además, trabajan con datos ya sesgados. Si no se corrige, la IA amplifica esos sesgos.

Proponemos desarrollar algoritmos más equilibrados, capaces de dar visibilidad a respuestas minoritarias. Muchas veces no interesa porque se prefiere reforzar la respuesta «mayoritaria», sea correcta o no. Con la desinformación ocurre igual: cuantas más mentiras, más apariencia de verdad se crea sobre las falsedades.

Debemos tener en cuenta que la IA genera contenido a gran escala, de modo que, si la base está sesgada, todo se sesga más.

IA al servicio de las personas: inclusión y marco europeo

– Defendéis la idea una «IA al servicio de las personas». ¿Cómo se aterriza? ¿Qué criterios operarían para una IA responsable?

La misma IA que puede aumentar sesgos también puede reducir barreras. Para personas con diversidad funcional o psicológica, ya hay herramientas que mejoran capacidades (visión, movilidad, autonomía).

Hay que forzar que el desarrollo tecnológico vaya a favor de la inclusión y que exista control. Europa es el único bloque con una normativa de IA y datos personales, aunque se critique por «restar competitividad».

Tal vez el rol de Europa no sea liderar la carrera tecnológica, sino liderar un modelo sostenible y diverso en uso e implantación. Históricamente Europa ha sido un bastión de derechos; quizá deba seguir siéndolo, aunque no lidere en investigación o financiación.

– Pasando al plano empresarial: muchas compañías «corren» a implantar IA sin estar preparadas. ¿Cuál es el principal error?

Empezar la casa por el tejado. Muchas organizaciones ni siquiera han hecho bien su transformación digital ni tienen un plan de gobierno del dato. Sin eso, implantar IA abre agujeros que pueden acabar en pérdidas y problemas legales.

El orden es básico: primero gobierno del dato, después ciberseguridad y luego implantación de IA. Saltarse pasos lleva a fugas de información, malos usos (por ejemplo, introducir balances o datos personales en herramientas abiertas) y riesgos por desconocimiento dentro de la propia empresa.

También hay que vigilar integraciones: si un agente de IA con datos internos se conecta a Internet sin control, estás exponiendo tu información.

Desinformación y buenas prácticas: aprender de los referentes

– La desinformación tendrá protagonismo en el congreso. Con UNESCO, Maldita y otros actores, ¿qué aprendizajes esperáis ofrecer?

La UNESCO está elaborando mapas de situación por países y blueprints con casos de éxito. Eso sirve de faro: evita que cada cual empiece de cero y repita errores. Estas organizaciones tienen muy claro el marco de derechos humanos, sesgos y diversidad; son referentes a los que agarrarse para no perder derechos y libertades.

Hoy incluso profesionales dudan ante vídeos o contenidos que parecen reales; la población no especializada aún más. Necesitamos criterios compartidos y buenas prácticas para navegar este escenario.

– ¿Qué papel tendrá el talento femenino?

Women in AI busca conectar nodos de mujeres en IA a escala mundial. Pero el problema va a más: faltan vocaciones tecnológicas femeninas pese a años de programas en primaria y secundaria. En muchas aulas de tecnología no hay mujeres; si no llegan a la formación, no llegarán a los puestos.

Y la toma de decisiones sobre herramientas que serán pilares sociales quedará en manos de equipos poco diversos, con el consiguiente sesgo. Necesitamos atraer, retener y visibilizar talento diverso desde la base.

– ¿Algún proyecto destacable en la Comunitat Valenciana que vaya en esta línea?

Desde la Universidad Politécnica de Valencia (UPV) hemos impulsado el Observatorio de Inteligencia Artificial y Diversidad, con 72 entidades internacionales (organizaciones, universidades y empresas). Analiza casos de éxito y también la percepción ciudadana sobre sesgos en IA.

El primer estudio, hecho con Ineco, se presenta a principios de noviembre en Madrid. Los datos apuntan a que la población no identifica bien los sesgos en las respuestas de las herramientas. Es preocupante: aunque no exista «verdad absoluta», hay casos claramente sesgados que pasan desapercibidos.

En el observatorio participan, entre otros, Cruz Roja, Ineco, la Fundación Étnor, universidades europeas y latinoamericanas, y empresas de recursos humanos de EE. UU. preocupadas por el filtrado automatizado de currículums o por el uso de IA en seguros. Son decisiones que pueden cerrar puertas a personas válidas por pura comparativa estadística.

– A menudo se dice que la tecnología es una herramienta: depende de quién la use. ¿Compartes esa visión?

Totalmente. Un cuchillo sirve para cortar jamón o para hacer daño; depende de quién lo tenga y para qué lo use. Con la IA pasa igual: unos la emplearán para mejorar el mundo; otros, para usos dañinos. Por eso importan tanto los valores, la gobernanza y los controles alrededor de la tecnología.

– ¿Cuál es la hoja de ruta después del congreso?

Mantener píldoras de información durante el año, visibilizar buenas prácticas y conectar a gente que trabaja estos temas a nivel global. La diversidad depende de la cultura y cambia por país; queremos favorecer encuentros que amplíen la mirada más allá de lo local. En un mundo global, es clave entender otras culturas y contextos para construir una IA realmente inclusiva.