Seguridad y sesgos: los retos pendientes de la Inteligencia Artificial

La directora de Analytics de Shalion y profesora del Departamento de Análisis del IESE, Inés Alegre, ha advertido este sábado en un jornada empresarial que, entre los retos que implica la inteligencia artificial (IA) figuran los posibles sesgos que conlleva y las cuestiones de seguridad.

Alegre ha impartido una ponencia sobre "Retos empresariales y éticos de la inteligencia Artificial" en la XXVII Jornada de Empresarios y Directivos "Economía y empresa: perspectivas, retos y estrategias" organizada por el Centre Universitari Ariany.

La especialista ha señalado que la IA supone un reto para la empresas pero también lo es para la administración y para la sociedad en su conjunto, y ha llamado la atención sobre el hecho de que la IA no es un fenómeno nuevo, sino que está en usos comunes desde hace años como las aplicaciones de orientación del tipo Google Maps que se basan en ella u otras como Alexa o Siri.

Entre los retos gubernamentales que implica la IA Alegre ha destacado las noticias falsas o "fake news", que afectan a noticias, a fotografías y a vídeos y que tienen un gran impacto sobre las elecciones.

De los retos sociales a gestionar en torno a la IA, la analista ha mencionado la salud mental, los impactos de las redes sociales y la adicción a la pornografía, entre otras cuestiones.

Y como retos para las empresas ha puesto como ejemplos la privacidad de los datos y los sesgos de los algoritmos.

Ha recordado lo sucedido en una selección de personal en Amazon, en la que recurrieron a IA para hacer una preselección entre el millar de currículos que habían recibido y decidieron usar como criterio que buscara perfiles similares a empleados que hubieran trabajado los últimos 5 años en Amazon y hubieran promocionado dentro de la empresa. Los 25 seleccionados eran hombres blancos, un sesgo que tuvieron que corregir.

"Hemos de aprender como empresarios a hacer buenas preguntas y a entender cómo ha sido entrenada la Inteligencia Artificial y detectar discriminaciones y hackeos, en qué país se almacenan los datos y de qué manera, para entender qué estamos comprando y cuáles son las implicaciones de eso", ha advertido.

Alegre ha recalcado que la Inteligencia Artificial tiene mucho potencial, "pero tiene unos retos a los que hay que buscar soluciones que van a girar sobre tres ejes: personas, procesos y preguntas".

"Hemos de tener personas íntegras que se cuestionen cómo es la mejor manera de utilizar los sistemas de Inteligencia Artificial frente a otros más basados en personas; y unos procesos, una misión empresarial que determine en qué casos usarla y unas preguntas para entender mejor los sistemas", ha señalado.