Carlos Gavilanes, IESE: "Antes de usar la IA, hay que pensar qué beneficio dará"

Carlos Gavilanes habla de inteligencia artificial con curiosidad y con los pies en el suelo. Licenciado en Física por la Universidad Autónoma de Madrid y Executive MBA por el IESE, Universidad de Navarra, es colaborador del departamento de Operaciones, Información y Tecnología del IESE. Tras impartir una charla para el grupo Alumni del IESE en la Comunitat Valenciana sobre ‘Inteligencia Artificial: Navegando la incertidumbre’, conversa con Economía 3 sobre las oportunidades y las incertidumbres de una tecnología que está transformando las empresas. Su invitación es sencilla: antes de dejarse llevar por el entusiasmo, detenerse a pensar para qué utilizarla.

– Las salidas de investigadores y responsables de seguridad de las grandes compañías de inteligencia artificial como Anthropic y OpenAI, ¿revelan un problema más profundo?

En todo lo relacionado con la inteligencia artificial es muy difícil saber exactamente qué está pasando y, sobre todo, qué va a pasar. Más allá de las salidas, lo que está dando que pensar es que los líderes de algunas de estas empresas hayan mostrado interés en introducir una pausa en determinados ámbitos de la carrera de desarrollo de los modelos.

Una posible explicación es la seguridad. Las propias compañías han revelado incidentes que apuntan a un riesgo potencial a medida que los modelos se vuelven más potentes. Si son capaces de detectar vulnerabilidades en una infraestructura digital y explotarlas con cierta autonomía, existe un riesgo.

Pero hay otras dos interpretaciones que también pueden influir: la regulación y la presión financiera. Quizá estemos ante una combinación de las tres.

– ¿Por qué podría interesarles una regulación más estricta?

Por lo que se conoce como captura regulatoria. Simplificando, una regulación que exige muchos requisitos no afecta de la misma manera a todos los competidores. Las grandes compañías tienen recursos para cumplirla, mientras que una empresa pequeña puede encontrar muchas más dificultades.

Eso puede dar una ventaja a quienes ya están establecidos y levantar barreras de entrada frente a nuevas empresas que podrían competir con ellos.

Es algo que ocurre en otros sectores: una regulación concebida para protegernos de determinadas posiciones dominantes puede acabar favoreciéndolas, porque no todos tienen el músculo necesario para cumplirla. Es una posible interpretación de lo que está sucediendo, aunque no la única.

Grandes inversiones en infraestructuras

– ¿Y qué papel juega la presión financiera en esa carrera?

El desarrollo de nuevos modelos y la ejecución de los que ya existen requieren inversiones muy fuertes en infraestructura. Esa inversión introduce tensión, especialmente cuando todavía hay incertidumbre sobre la demanda y sobre cómo se va a ganar dinero con la inteligencia artificial.

Si, además, una compañía necesita financiarse con deuda, añade otro riesgo. La deuda tolera peor la variabilidad de los resultados. Por eso, una pausa también podría ofrecer cierto alivio desde el punto de vista financiero.

La seguridad es la explicación que se plantea públicamente, pero la regulación y las necesidades de inversión también pueden estar influyendo.

– ¿Existe una tensión real entre avanzar más rápido que la competencia y garantizar la seguridad?

Sí. Una parte del progreso de la inteligencia artificial generativa se ha producido de manera inesperada. Al hacer modelos más grandes, con más parámetros y más capacidad de cómputo, no solo hacían lo mismo más rápido: empezaban a hacer cosas que no esperábamos.

Eso genera incertidumbre. Cuando entrenas un modelo más avanzado, no sabes completamente qué capacidades nuevas van a aparecer hasta que lo pruebas.

A esa incertidumbre se suma la presión competitiva. Las empresas compiten entre ellas y también quieren mantener su ventaja frente a los modelos chinos. Hay razones comerciales y geoestratégicas para seguir avanzando.

Soy más bien optimista, no catastrofista. No veo hoy un riesgo muy elevado de que esta tecnología se rebele contra la humanidad, pero sí veo riesgos concretos, como los relacionados con la ciberseguridad.

La responsabilidad humana

– ¿Qué debería preocuparnos especialmente en ese ámbito?

La capacidad de detectar vulnerabilidades y de preparar ataques para explotarlas. Los modelos pueden hacer esas tareas de manera más eficiente y rápida, y eso, en malas manos, supone un riesgo.

En una economía y una sociedad tan digitalizadas, un ciberataque puede afectar a una red eléctrica, a las telecomunicaciones o a otras infraestructuras importantes. Puede hacer mucho daño.

Ahora bien, también hay una cuestión de responsabilidad humana. Los usuarios pueden utilizar mal estas herramientas o concederles capacidades que no deberían. Los riesgos de ciberseguridad ya existían antes de la inteligencia artificial; esta tecnología puede amplificarlos.

Tiene mucho potencial y puede servir tanto para lo bueno como para lo malo.

– ¿Podrán autorregularse las grandes compañías o será necesario un control externo?

Las posiciones van cambiando, pero algunas de estas compañías están reclamando regulación externa. La discusión es si lo hacen porque perciben un riesgo muy importante o porque esa regulación también puede reforzar su posición competitiva.

Los gobiernos, por su parte, tienen sus propios intereses. En el caso de Estados Unidos, hay un componente geoestratégico: no quieren perder el control de una tecnología en la que consideran que tienen una ventaja.

Creo que los gobiernos y los reguladores tendrán que estar muy atentos a las capacidades que vayan apareciendo y a sus posibles consecuencias.

¿Y en la empresa?

– Si llevamos el debate a la empresa, ¿qué debería tener en cuenta antes de incorporar la IA a un proceso importante?

Lo primero es entender que lleva tiempo. No basta con decir a las personas que participan en un proceso que empiecen a utilizar un modelo.

Esas personas pueden mejorar su productividad individual, pero el proceso tiene otros cuellos de botella que no dependen de esa productividad. Si no lo rediseñas para aprovechar el potencial de la tecnología, puede que la inversión no te resulte rentable.

Además, utilizar estos modelos tiene un coste. Cuando quieras pasar de las pruebas a una aplicación a escala, necesitas obtener un beneficio claro que lo compense.

Hay que elegir los procesos donde exista una oportunidad de negocio, rediseñarlos y ordenar los datos y la tecnología que los sostienen. Primero hay que hacer los deberes básicos.

Alguien me lo resumía con una imagen muy buena: es como ponerse a fregar sin haber barrido antes. Las empresas tienen que evitar eso.

– ¿Por qué insiste en ordenar los datos y revisar el proceso?

Porque la herramienta tiene que encajar en una forma de trabajar que permita aprovecharla. Hay que decidir qué datos utilizar y cómo están organizados.

Si la información está en hojas de papel que tienes que escanear, vas a encontrar más dificultades. No se trata necesariamente de hacer una revolución tecnológica en toda la empresa, pero sí de preparar el proceso que hayas elegido.

Después puedes empezar a utilizar un modelo y aprender. Ese aprendizaje también te ayudará a entender cómo adaptar mejor la herramienta a lo que necesitas. Hay una oportunidad, pero exige un trabajo previo.

Analizar necesidades

– ¿El modelo más avanzado es siempre la mejor elección?

No. Hay modelos más caros y otros más baratos, y no todos son necesarios para cualquier tarea. A veces, uno más sencillo te sirve igual.

Una parte del coste depende de los tokens, que son fragmentos de texto que el modelo procesa. Si utilizas un modelo más caro o intercambias grandes cantidades de información, el coste puede aumentar.

Por eso hay que analizar qué necesita realmente la tarea. No hay que matar moscas a cañonazos. Incluso un modelo abierto puede ser suficiente en determinados casos. El análisis de coste y beneficio también debe hacerse al elegir el modelo.

– ¿Puede ese coste dejar fuera a las pymes?

No necesariamente. Una pyme puede tener casos de uso con volúmenes más pequeños y un coste proporcionado al beneficio que puede obtener.

Lo que tiene que hacer es plantearse las cosas en el mismo orden: primero, para qué quiere utilizar la tecnología; después, en qué proceso y con qué beneficio esperado.

No se hace por entusiasmo ni porque todo el mundo lo esté haciendo. Puedes interesarte por la tecnología, explorar sus capacidades y conocer posibles usos, pero antes de empezar tienes que pensar dónde encaja en tu negocio.

Después hay que ordenar ese entorno de trabajo y elegir una herramienta adecuada. No siempre necesitas el último modelo que ha salido.

«No hay que esperar a ver qué pasa»

– En la empresa familiar valenciana, ¿por dónde recomendaría empezar?

Eso lo tienen que decidir quienes conocen el negocio. No se puede dar una respuesta genérica desde fuera, porque a cada empresa le aprieta el zapato en un sitio distinto.

Mi recomendación es que los gestores y los propietarios se reúnan y dediquen tiempo a identificar los procesos por los que quieren empezar. Dar acceso a todos los empleados y esperar a ver qué pasa no me parece una buena receta.

Hay muchos procesos candidatos, pero conviene elegir aquel donde la empresa vea una oportunidad clara de obtener una mejora. Eso depende de cada compañía y de cada sector.

– ¿Tienen las empresas pequeñas alguna ventaja frente a las grandes?

Sí, especialmente en su manera de tomar decisiones. En una pyme suele haber menos burocracia, menos necesidad de alcanzar consensos y menos política interna.

Cuando la dirección toma una decisión, esta puede trasladarse más rápidamente al trabajo diario. En una gran organización, ese recorrido suele ser más lento y complejo.

Por eso soy optimista sobre las pymes. Pero tiene que haber una decisión desde arriba y una orientación clara sobre el proceso que se quiere transformar. La agilidad es una ventaja cuando sabes hacia dónde quieres avanzar.

Ingresos rentables

– ¿Qué diferencia el negocio de la IA del software tradicional?

En muchos productos de software haces una inversión inicial para desarrollarlos y después los comercializas, aunque tengas que mantenerlos y lanzar nuevas versiones.

En la inteligencia artificial, cada respuesta implica computación y, por tanto, un coste. Las empresas que ofrecen los modelos tienen que pagar por la infraestructura que utilizan.

Por eso necesitan ingresos rentables. No basta con vender: hay que hacerlo a un precio que compense el coste de generar esas respuestas.

Esa búsqueda de un modelo de negocio también afecta a los clientes. Ha habido un momento de entusiasmo en el que algunas empresas promovían un uso masivo de estas herramientas entre sus empleados. Pero, si ese uso tiene un coste elevado, hay que preguntarse qué beneficio está generando.

– ¿Los agentes pueden aumentar esa factura?

Sí. Una persona lee y escribe a una determinada velocidad. Un agente puede hacer peticiones al modelo mucho más rápido y consumir tokens a un ritmo mayor.

Eso puede convertirse en un problema de costes. Por eso no basta con comprobar que una herramienta puede hacer una tarea: también hay que entender cuánto cuesta ejecutarla y si el resultado compensa.

No quedarse parado

– Con tantas incertidumbres, ¿qué actitud debería adoptar una empresa?

No quedarse parada, pero sí ser selectiva y moderar sus aspiraciones iniciales.

Como cliente, te gustaría contratar una tecnología con proveedores y modelos de negocio relativamente estables. Ahora todavía hay incertidumbre en esos aspectos.

Por eso recomiendo elegir un proceso o un flujo de trabajo concreto, empezar a aprender y ponerse en marcha. Así, cuando haya una situación más estable, la empresa estará mejor preparada para ampliar su uso.

– ¿La geopolítica puede condicionar el ritmo de esta carrera?

Claro. Estados Unidos quiere mantener su ventaja y la competencia con China influye en las decisiones sobre el desarrollo de los modelos.

También está la fabricación de los chips más avanzados. Nvidia diseña sus chips, pero su fabricación depende de TSMC, en Taiwán. Esa concentración introduce una dimensión geopolítica muy importante.

De ahí el interés de Estados Unidos en reforzar la fabricación en su territorio y asegurar el suministro. La inteligencia artificial no depende solo de los modelos: también de los centros de datos, los chips y las infraestructuras que permiten utilizarlos.