La IA ante un nuevo paradigma: de incorporarla a convertirla en ventaja competitiva

La inteligencia artificial (IA) ha entrado en una nueva fase. El debate va mucho más allá de quién dispone de la tecnología. La cuestión ahora es quién será capaz de convertirla en una ventaja competitiva. Esta capacidad puede abrir una nueva brecha digital entre territorios, empresas y sociedades que sepan aprovechar la IA con criterio y aquellas que queden relegadas a un papel de meros consumidores.

Ante este nuevo paradigma, las distintas regiones están adoptando posturas muy diferentes. Mientras Estados Unidos trata sus modelos como activos estratégicos y limita el acceso a determinadas capacidades por razones de seguridad nacional y ciberseguridad, Europa avanza hacia un marco regulatorio que sitúa la transparencia, la seguridad y la protección de derechos en el centro del despliegue tecnológico.

Y esta discusión va más allá del ámbito geopolítico y normativo. También se traslada de forma directa a la relación entre empresas, clientes y ciudadanía. El Reglamento Europeo de Inteligencia Artificial UE 2024/1689 (AI Act) exige, entre otras medidas, que las decisiones tomadas con ayuda de modelos de IA que afecten a personas sean explicables. Precisamente ahí es donde reside el reto para las organizaciones. No es solo utilizar la IA, sino explicar a sus clientes cómo la usan, con qué objetivos, bajo qué supervisión y con qué garantías.

El uso adecuado y la confiabilidad dejan de ser, por lo tanto, conceptos técnicos para convertirse en una condición de confianza. En un contexto en el que la IA empieza a intervenir en procesos de atención al cliente, análisis de información, toma de decisiones o generación de servicios, las empresas necesitan poder justificar cómo funcionan sus sistemas inteligentes y demostrar que su uso es seguro, responsable y alineado con la regulación.

Con este objetivo, ITI, centro tecnológico especializado en TIC, trabaja en proyectos como eXplAIn y CONFIA, dos iniciativas de I+D, financiadas por el Instituto Valenciano de Competitividad Empresarial (IVACE+i) y la Unión Europea, que abordan dimensiones complementarias de una misma necesidad: avanzar hacia una IA más comprensible, segura y confiable para facilitar su adopción en el tejido empresarial.

eXplAIn: hacer comprensible la IA

Uno de los grandes retos ante el avance inevitable de la IA es entender cómo funcionan los sistemas inteligentes y por qué ofrecen determinados resultados. Esto es especialmente relevante en sectores críticos como la salud, la industria o la energía, donde las decisiones apoyadas por IA pueden afectar directamente a personas, procesos o sistemas productivos.

En este contexto, ITI desarrolla eXplAIn, un proyecto orientado a crear herramientas que permitan interpretar mejor el comportamiento de los modelos de IA y hacerlos más confiables, en línea con las exigencias del AI Act y del MDR, la regulación europea sobre Inteligencia Artificial y productos sanitarios.

El proyecto trabaja en técnicas que ayudan a explicar los resultados de la IA, identificar parámetros clave, analizar la estabilidad e incertidumbre de los modelos y visualizar qué elementos influyen más en una predicción, por ejemplo, mediante mapas de calor en el análisis de imágenes. Además, contempla métricas para evaluar la calidad de estas explicaciones y el diseño de una “tarjeta modelo” que describa de forma clara cómo funciona cada sistema.

Con ello, eXplAIn busca que la transparencia forme parte del ciclo de vida de los modelos de IA desde el inicio, facilitando su adopción en entornos reales con mayores garantías.

CONFIA: compartir datos sin perder el control

La confianza en el uso de los datos es otra condición clave para desplegar Inteligencia Artificial. Las empresas necesitan compartir información, generar sinergias y participar en ecosistemas basados en datos, pero sin perder el control sobre quién accede a ellos, para qué se utilizan y bajo qué condiciones.

Con este objetivo, ITI desarrolla CONFIA, un proyecto orientado a mejorar la confiabilidad en las transacciones entre proveedores y consumidores de datos, especialmente en el marco de los espacios de datos, considerados una herramienta estratégica para la competitividad empresarial y la autonomía tecnológica europea.

El proyecto trabaja con tecnologías de mejora de la privacidad, conocidas como PETs, que permiten realizar comprobaciones sobre los datos sin revelar información protegida, y con técnicas de identidad autosoberana, o SSI, que facilitan compartir únicamente la información estrictamente necesaria.

A través de este enfoque, CONFIA contribuye a reforzar la privacidad, la identidad verificable y el control en la compartición de información, permitiendo que las empresas aprovechen el valor de los datos sin renunciar a la seguridad ni a la soberanía sobre ellos.

Con esta línea de trabajo, ITI trata de dar respuesta a dos dimensiones complementarias que responden a un mismo desafío: hacer que la IA se integre en las empresas de forma útil, segura y responsable. Es probable que la transparencia tecnológica se convierta en un nuevo factor diferencial de reputación empresarial. Mientras eXplAIn aporta capacidades para entender y supervisar los sistemas inteligentes, CONFIA refuerza la privacidad, la identidad verificable y el control sobre los datos que alimentan muchos de estos sistemas.

Ambos proyectos reflejan una evolución clara en la adopción de la IA. El reto ya no consiste únicamente en incorporar modelos avanzados, sino en desplegar sistemas que puedan ser comprendidos, auditados, protegidos y utilizados con garantías.

Todo ello con el objetivo final de que el tejido empresarial avance hacia una IA más alineada con los retos actuales: no solo innovar más, sino también hacerlo con control, responsabilidad y seguridad.

Sobre ITI, centro tecnológico especializado en TIC.

Desde su nacimiento en 1994, el trabajo de ITI ha estado íntimamente ligado a tecnologías que posibilitan realizar un análisis inteligente de la información. Machine Learning, Reconocimiento de patrones o Sistemas de información distribuidos fueron las primeras líneas de investigación del centro, que hoy han derivado en lo que conocemos como Inteligencia Artificial, Big Data o Cloud Computing y Computación de Alto Rendimiento (HPC).

Actualmente, con una plantilla de más de 330 personas trabajando en torno a la explotación de datos, ITI es el Centro Tecnológico de referencia a nivel nacional y uno de los líderes a nivel europeo en estas tecnologías, que se confieren como las grandes revolucionarias de la economía y sociedad presentes y futuras. En total, más de 20 millones de euros anuales en el desarrollo de tecnologías digitales.

Entre otros, ITI es el único representante español del Comité de Dirección de Gaia-X a nivel europeo y ostenta la presidencia a nivel nacional, es miembro del Comité de Dirección de BDVA (Big Data Value Association) y DSBA (Data Space Business Alliance). En este sentido, ha liderado proyectos europeos de referencia como EUHubs4Data, la federación europea de Big Data Innovation Hubs y ha sido uno de los principales impulsores para la creación de la Federación europea de i-Spaces. Además, a través de su directora gerente, Laura Olcina, ostenta la presidencia de la Federación Española de Centros Tecnológicos (Fedit), del Consejo Asesor de Ciencia, Tecnología e Innovación (CACTI) y es miembro del Consejo Asesor de CDTI.

También se ha consolidado como uno de los principales referentes a nivel nacional y europeo en Inteligencia Artificial, siendo una de las primeras entidades firmantes del AI Pact, que busca preparar las organizaciones para la implementación de la Ley de la IA a través de la adopción temprana de medidas que aseguren el desarrollo y uso responsable de la IA en Europa. Además, ha sido coordinador de la red de Excelencia Cervera AI4ES, que busca situar a España a la cabeza en IA y actualmente trabaja en cuatro proyectos estratégicos más que lo sitúan relacionados con la seguridad, la energía y la transformación digital.

A nivel regional, lidera proyectos de la importancia de INNDIH AI Connect, el Digital Innovation Hub de la Comunitat Valenciana, que busca apoyar al tejido empresarial valenciano en su proceso de digitalización. Asimismo, ITI es miembro de la Cátedra STEAM de la UPV, para potenciar el talento tecnológico femenino.