Jornada sobre ética e Inteligencia Artificial en la UPV

Botti: “La IA tiene que ser explicable porque así llegará a ser confiable”

El director de Vrain señala que es importante "incorporar la ética tanto en las aplicaciones de IA como en los propios investigadores"

Archivado en: 

El director Instituto Valenciano de Investigación en Inteligencia Artificial (VRAIN) y catedrático de la UPV, Vicent Botti.

El director Instituto Valenciano de Investigación en Inteligencia Artificial (VRAIN) y catedrático de la UPV, Vicent Botti, señala que la Inteligencia Artificial (IA) “debe ser explicable”, es decir, que todas las decisiones que tomen las aplicaciones que utilizan IA deben tener una explicación y los usuarios saber porqué se toman. Apunta que de este modo la tecnología “será confiable”. Botti hizo estas declaraciones en la jornada sobre ética e IA organizada esta semana por el Observatorio de Humanidades y Tecnología en la UPV, donde también participó Adela Cortina, catedrática de ética en la Universitat de València (UV).

Señaló el director de Vrain que “es importante incorporar la ética tanto en los desarrollos de IA como en los propios desarrolladores”. Que estos “incorporen dogmas éticos en sus procesos”. Explicó Botti que se debe evaluar en cada caso la pertinencia o no de seguir con diversos desarrollos ya que no importa solo el hecho de poder avanzar, si no la repercusión que tendrán las nuevas tecnologías que resulten.

Por su parte, Cortina indicó que es preciso, cuando la tecnología va a tener influencia sobre los seres humanos y la naturaleza, “incorporar unos principios básicos para que la IA sea confiable y excelente”. Estos principios, puntualizó, son el de beneficiar a las personas y no dañarlas. “La IA no es un fin en si mismo, si no que es un medio para beneficiar a los seres humanos y a la naturaleza”, señaló y añadió que es importante conocer “la trazabilidad” de los algoritmos y que siempre que se tomen decisiones que afecten a las personas, “debe ser un ser humano el que supervise la decisión”.

Conversación sobre ética e IA mantenida entre Vicent Botti y Adela Cortina en la UPV.

En esta línea, tanto Botti como Cortina han indicado que la Unión Europea (UE) está haciendo un buen papel en la adopción de los principios descritos por la catedrática de la UV. “Celebro las normas de la UE, unas normas éticas que protejan nuestra privacidad son fundamentales”, indicó Cortina. Del mismo modo se expresó Botti, quien señaló que “la decisión de Europa de buscar una IA responsable y centrada en el ser humano es acertada”. Ambos comentaron el hecho de que está postura europea puede repercutir en la competitividad de la Unión frente a países terceros como China o EEUU pero valoraron positivamente las medidas adoptadas desde la UE.

Por otro lado, en cuanto a la utilización de la IA en la lucha contra el coronavirus, lamentó Vicent Botti la indecisión por parte de las administraciones para implementar medidas de rastreo de personas que facilitaran el trabajo de los sanitarios en la búsqueda de la trazabilidad del virus. “No somos capaces de buscar el equilibrio y el beneficio que se puede obtener de perder algo de privacidad”, indicó el director de Vrain.

Cortina indicó que ha fallado la comunicación con la población. “Se debe explicar los beneficios que se obtienen del rastreo. Si la gente lo entendiera bien lo aceptaría”, apuntó la catedrática de la UV, quien apuntó que “ética e IA deben ir de la mano explicando los beneficios que se obtienen de la aplicación de nuevas tecnologías”.

Por último, ambos catedráticos apuntaron a la necesidad de implementar tanto asignaturas de IA como de ética en las carreras universitarias. “Una asignatura de ética es fundamental en cada una de las carreras y en secundaria”, expresó Cortina y, en concreto para los grados de ingeniería, indicó que es preciso que los estudiantes “se den cuenta que su trabajo está al servicio de la sociedad” y comprender las implicaciones de los desarrollos de IA.

Botti señaló, por su parte, que una asignatura de IA que fuera transversal a todas las ingenierías “sería interesante”, pero que mientras se consigue cambiar el plan de estudios, se debe reforzar la oferta formativa con cursos y módulos sobre los nuevos desarrollos tecnológicos.

Suscríbete a nuestra newsletter