Inteligencia Artificial: ¿Por qué es importante su ‘explicabilidad’?

La inteligencia artificial y la apuesta por soluciones innovadoras en los entornos de trabajo ha permitido alcanzar niveles sin precedentes de eficiencia y productividad. Conscientes de ello, las empresas han pasado a duplicar su inversión en IA.

Según expone una investigación a nivel mundial elaborada por McKinsey, las empresas han duplicado el uso de herramientas de IA significativamente entre los años 2017 y 2022. Concretamente, en 2017 el 20% de los encuestados informó haber adoptado la IA en al menos un área de negocio, mientras que hoy en día, esa cifra aumenta hasta alcanzar un 50%.

Asimismo, como demuestra el último informe elaborado por IFS, fabricantes de software empresarial, el 43% de las organizaciones apuestan por un modelo de negocio de servicios e IA. Con la tecnología como principal objeto de estudio del informe, los resultados ponen de manifiesto la importancia de esta herramienta para generar beneficios empresariales y aportar valor. En diferentes sectores, la IA se ha posicionado como tecnología clave para mejorar la eficiencia operativa, capturar nuevos segmentos de clientes o mejorar la satisfacción del cliente.

En este contexto, gran parte del crecimiento de la IA en los negocios está siendo posible gracias al continuo desarrollo del IoT y de dispositivos conectados, que permiten automatizar los procesos empresariales. Para que la IA y la automatización de procesos de las organizaciones funcione como se espera es fundamental recopilar los datos correctos. El método principal para la obtención de estos es a través del control de los usuarios finales en una aplicación y del análisis de datos que fluyen a partir de sensores en una infraestructura IoT.

De este modo, se genera un sistema de retroalimentación que permite que la automatización de procesos se agilice y perfeccione con el paso del tiempo, ofreciendo a las organizaciones alcanzar eficiencias significativas en sus operaciones diarias. No obstante, para aprovechar todo el potencial que la IA nos brinda es indispensables para el negocio, que los empleados puedan acceder a ella fácilmente, comprendiendo su uso y utilizándolo en beneficio de la empresa.

Un ejemplo de la combinación de ambas herramientas se da en la plataforma de IFS Cloud, donde gracias a la integración de Inteligencia Artificial, IoT y Machine Learning, esta plataforma acelera la innovación, la automatización y la información para agregar valor al usuario final. En este sentido, la implementación de IA en todo el producto resuelve problemas adaptados a las necesidades de cada negocio.

IA y la presencia humana

El uso de la IA ya ofrece importantes avances en los sistemas en materia de productividad y eficiencia. Al aprender cómo funcionan los procesos, la IA adquiere la capacidad de mejorarlos, llevándolos un paso más lejos. Esto implica, en parte, reducir la presencia humana en determinadas tareas que son repetitivas y estandarizadas. Sin embargo, su uso no sustituye la presencia humana, sino que amplía sus capacidades y les da soporte en determinadas funciones para que estos puedan centrarse en labores de mayor valor añadido.

En este contexto, es fundamental que los equipos comprendan el valor de interactuar con la aparición de nuevas tecnologías de IA, así como del aprendizaje automático. Esto implica dar a conocer a los empleados lo que está ocurriendo en sus entornos de trabajo, un aspecto fundamental para la aplicación de la IA en las empresas, aunque no el único, ya que en numerosas ocasiones no hay una interacción directa entre el equipo y los sistemas.

En este punto, la atención por parte de los usuarios se fijará en conocer los procesos de automatización. El sistema se alimentará de datos y cuando algo vaya mal, se generará automáticamente un informe que recogerá la información necesaria para transmitírsela a un técnico. Esto no significa necesariamente que el ser humano tenga que cambiar directamente su papel, sino que tiene que potenciarlo.

En la actualidad, los discursos sobre la relación entre esta tecnología y la organización del trabajo presentan al equipo como espectadores pasivos de este proceso. Parten de la suposición de que la digitalización puede transformar su fuerza de trabajo sin depender de ella. Sin embargo, no se dan cuenta del rol activo que tienen para la implementación y supervisión correcta de la IA en las actividades diarias.

Desde IFS estamos viendo cómo la tecnología está creando cada vez más nuevos perfiles profesionales especializados en este campo. Y, es que tal y como señala nuestro último estudio, alrededor de un tercio de las empresas ven la superioridad tecnológica como el diferenciador más significativo de un negocio, una cifra que se ha triplicado desde 2018. Esto pone de manifiesto el deseo de las empresas de aprovechar los beneficios que brinda la tecnología, siendo necesario perfiles que sepan potenciarla al máximo.

Por qué es importante la explicabilidad de la IA

Garantizar que la IA sea accesible y explicable significa que toda la plantilla, independientemente de sus capacidades físicas, pueda interactuar con ella de manera efectiva. En muchas ocasiones, esta tecnología se utiliza para proporcionar información relevante tras un correcto análisis de datos. Sin una comprensión adecuada de cómo funciona la IA y de cómo se interpretan los datos, los empleados pueden tomar decisiones erróneas respaldadas por datos incomprensibles para ellos. En este punto, se vuelve fundamental la presencia humana para que estos procesos puedan ser auditables.

La rápida adopción de la IA ha suscitado una creciente preocupación en la sociedad sobre los riesgos que conlleva a nivel de protección del usuario.  Su alcance no se limita a las fronteras nacionales, y, por tanto, se está planteando una regulación a nivel europeo. Hasta el momento no hay una decisión clara, pero sí es posible que esto acabe sucediendo en un futuro próximo.

Desde esta perspectiva, surge el concepto de explicabilidad de la IA, el cual ha ido emergiendo de manera progresiva y ha llegado hasta la propuesta de la Ley de Inteligencia Artificial en la que ya están trabajando organismos como la Unión Europea. Según establece este organismo, los resultados que proporciona la IA deben generar confianza y tienen que ser suficientemente explicables por parte de las personas. En esta línea, es muy probable que, en un futuro, las empresas tengan que respaldar las decisiones que toman mediante informes que expliquen por qué se ha tomado una determinada decisión y no otra.

Garantizar la fácil comprensión de los datos

Un algoritmo es explicable cuando se pueden interpretar y entender los resultados obtenidos. La explicación del algoritmo debe adaptarse a los conocimientos de los diferentes tipos de usuarios. Es decir, desde los propios científicos que trabajan con la inteligencia artificial hasta profesionales no expertos. Se trata de una característica vital para las empresas, ya que a menudo las decisiones van a basarse en grandes volúmenes de datos, relacionados entre sí que habitualmente suelen ser de carácter complejo.  Desde esta perspectiva, ningún ser humano sería capaz de dar sentido a este flujo de datos en tiempo récord como sí hacen estas herramientas.

El riesgo es que la IA se quede sin supervisión y aprenda de datos erróneos que no tengan en cuenta la evolución y que se centren en parámetros incompletos o irrelevantes. Para evitar este inconveniente, es necesario considerar los parámetros que se van a introducir en el sistema, así como los resultados que se quieran obtener. Comprender y confiar en los resultados obtenidos por algoritmos de aprendizaje automático aporta grandes ventajas que van desde la regulación hasta la ayuda a desarrolladores para garantizar que el sistema funciona correctamente.

Asimismo, es importante que las organizaciones sepan quién se encarga de la formación de sus sistemas de IA, qué datos se han utilizado y, lo que es igual de importante, qué se ha incluido en las recomendaciones de sus algoritmos. Un sistema de IA explicable de alta calidad puede proporcionarles todos estos parámetros garantizando el éxito empresarial.

En este sentido, es clave contar con personas adecuadas y formadas que sepan hacer el trabajo. Precisamente desde IFS apostamos por capacitar a nuestros equipos para lograr la máxima calidad de servicio.

Las perspectivas del futuro en materia de explicabilidad

La IA ya estudia formas de construir algoritmos informáticos que aprendan y resuelvan problemas. Estas técnicas se utilizan cada vez más en las empresas. En el futuro, estas seguirán dependiendo de grandes volúmenes de datos complejos, de ahí la necesidad de la transmisión de datos, pero también de una IA explicable, que permita a los empleados supervisar el enfoque y asegurarse de que funciona correctamente.

La IA seguirá evolucionando constantemente y, a medida que aumenten sus capacidades, también lo hará la necesidad de una IA explicable que mantenga a los humanos al tanto y establezca controles y equilibrios sobre su crecimiento.