Ujué Agudo encontró en la inteligencia artificial una forma de conectar su experiencia en tecnología y publicidad con su pasión por entender el comportamiento humano. Hoy investiga en Jakala Iberia y en la Universidad de Deusto cómo los algoritmos afectan a nuestras decisiones cotidianas, desde lo que compramos hasta cómo se gestionan políticas públicas. En esta entrevista, comparte su recorrido entre disciplinas, reflexiona sobre el impacto social de la IA y destaca el valor de una mirada crítica y feminista en el desarrollo tecnológico.

Estudiaste Psicología y ahora investigas cómo nos influyen los algoritmos en varios ámbitos. ¿Qué te llevó a unir el estudio del comportamiento humano con la tecnología?

Previamente a mis estudios de doctorado ya se había unido ambos caminos, dado que me licencié en la carrera de Publicidad y Relaciones Públicas (lo que hoy es Marketing) y durante más de una década estuve trabajando en el sector tecnológico en la disciplina de Experiencia de Usuario (UX). Fue precisamente mi curiosidad por comprender por qué las personas nos comportábamos ante la tecnología de forma a veces tan insospechada que me llevó a querer comprender mejor el comportamiento humano, estudiando para ello un máster de investigación en Psicología. Me fascinaron tanto ambos temas (la investigación y la psicología) que acabé me lancé a continuar con un doctorado y escribir una tesis sobre cómo los algoritmos de inteligencia artificial influyen sobre nuestras decisiones. 

Tu trabajo se centra en cómo la inteligencia artificial repercute en nuestras decisiones, usamos algoritmos a diario. Al tiempo, cada vez se automatizan más decisiones que nos afectan. ¿Qué supone esto? ¿Cómo saber si un algoritmo acierta?

Saber si un algoritmo es acertado resulta mucho más complejo de lo que podría parecer. No es que no exista una medida que se refiera al acierto o la precisión de un algoritmo, que la hay (la más conocida sería la medida de accuracy). Lo que ocurre es que esa medida no nos lo dice todo. No explicita, por ejemplo, si el algoritmo tiende a cometer un mayor número de falsos positivos o de falsos negativos. Y esto es relevante: no es lo mismo que el algoritmo tienda a recomendar protección para una víctima de violencia de género o a negarla, por ejemplo. De hecho, en Bikolabs creamos una narrativa visual para tratar de explicar lo complejo y a la vez relevante que resulta este tema: https://riscanvi.bikolabs.io/

En Bikolabs trabajábais con tecnología desde una mirada social. ¿Cómo era el día a día en el laboratorio y cómo nació la idea de Bikolabs?

Bikolabs fue una de mis experiencias más bonitas como profesional. Se trataba, como dices, de un laboratorio con una mirada social, que buscaba comprender e intervenir sobre la interacción entre las personas y la tecnología. Nuestros proyectos abarcaban desde investigaciones sobre los sesgos de género en la IA de reconocimiento de objetos, hasta narrativas visuales sobre cómo de efectivos son los algoritmos que predicen el futuro comportamiento de las personas, u obras de arte generativas, como la que proyectamos en la fachada del Palacio de Congresos y Auditorio Kuursal en San Sebastián. Aunque la página con todas nuestras iniciativas sigue online (https://www.bikolabs.io/), nuestra actividad se detuvo el año pasado al cambiar la propiedad de la empresa en la que estábamos. No es que no sigamos investigando, que lo hacemos, pero el enfoque ahora es más desde el lado de la innovación tecnológica.  

Desde tu experiencia, ¿cómo crees que la tecnología está transformando la forma en que tomamos decisiones?

La tecnología es hoy ya una parte indisoluble de nuestras decisiones diarias: a través de ella nos informamos, nos comunicamos, planificamos y disfrutamos de gran parte de nuestro ocio, etc. Hasta hace no demasiado tiempo era solo el canal por el que decidíamos, pero de un tiempo a esta parte, y especialmente gracias a la inteligencia artificial, la tecnología no sólo es la puerta de acceso a las opciones de elección, sino que es quien media en qué opciones veremos y cuáles no, nos empuja a elegir unas respecto a otras, o incluso adopta esas decisiones por nosotros.

En tu libro El Algoritmo Paternalista, hablas de cómo la inteligencia artificial ha pasado de ser una ayuda puntual a tomar decisiones importantes en espacios como hospitales o juzgados. ¿Podrías contarnos qué es exactamente eso del “algoritmo paternalista”? 

Karlos (coautor del libro) y yo denominamos “paternalistas” a aquellos algoritmos que toman decisiones por nosotros, o que influyen significativamente en ellas (a menudo de forma opaca y sin nuestro pleno consentimiento), con el argumento de que así se obtienen mejores resultados en nuestro beneficio. Este tipo de algoritmos conllevan la merma de nuestra autonomía y capacidad de elección, en decisiones tan críticas como establecer las condiciones de la libertad condicional de los presos en Cataluña a partir de la predicción de su reincidencia futura (algoritmo RisCanvi), las medidas protección a mujeres víctimas de violencia de género (algoritmo VioGen), o la adjudicación del bono social de electricidad (algoritmo BOSCO).

A veces la IA parece algo lejano o muy técnico. ¿Cómo podríamos acercarla a las personas para que entiendan que también pueden formar parte de su día a día?

Supongo que la distancia se produce porque no somos plenamente conscientes que utilizamos IA a diario. Los resultados de nuestras búsquedas en Internet, los contenidos que se nos muestran (o no) en redes sociales, los precios de los productos o servicios que compramos online, los candidatos que se nos sugieren en las apps de citas… son filtrados, seleccionados o ajustados por inteligencia artificial para cada uno de nosotros, con distintos objetivos: ayudarnos a ser más eficientes, o a que pasemos más tiempo consumiendo, o lo que sea. La IA no es un robot superinteligente que en el futuro decidirá destruir la raza humana. Es quien filtra, ordena, prioriza y decide sobre nuestras “pequeñas” acciones diarias en Internet.     

Cuando comenzaste tus estudios, la inteligencia artificial no tenía aún la presencia que tiene hoy. ¿Cómo evolucionó tu trayectoria hasta llegar a este campo? ¿Tuviste referentes femeninos que marcaran ese camino?

Mi mayor referente ha sido (y es) mi directora de tesis, Helena Matute. Helena ya había investigado, años antes de que yo arrancara mi doctorado, sobre el aprendizaje de la IA, especialmente en la época de los sistemas expertos. Tras asistir a varias conferencias suyas y a algunas reuniones de su laboratorio de psicología experimental en la Universidad de Deusto, comprendí que, mientras que muchos estaban preocupados por la IA del futuro (robots, IA general que superaría a la inteligencia humana, etc.), Helena y yo estábamos especialmente interesadas en comprender cómo esta tecnología ya estaba influyendo en el día a día de las personas. No hacía falta esperar al futuro para ello. Nuestros intereses comunes me permitieron el auténtico lujo de tenerla como directora de tesis y que mi referente se convirtiera, además, en mi guía. 

¿Te has sentido alguna vez en desventaja por ser mujer en el mundo de la tecnología y la investigación? ¿Qué te ha ayudado a seguir adelante?

En el mundo profesional, ser mujer no suele implicar una ventaja precisamente; lo mismo si hablamos del sector de la tecnología, que de la investigación. Procuro no pensar demasiado en ello y centrarme en desempeñar de la mejor manera posible mi trabajo, porque llevo bastante mal lidiar enfrentarme a problemas estructurales si no puedo ejercer control sobre ellos, o contribuir a arreglarlos de raíz. Lo que no quita que me enrabiete cada vez que tropiezo una noticia, situación, etc. que me recuerda que nos queda un largo camino por recorrer.  

¿Qué mensaje te gustaría decirles a las chicas que sienten interés por la ciencia o la tecnología, pero dudan si realmente ese camino es para ellas? ¿Hay algo que a ti te habría gustado escuchar cuando empezabas?

Les diría que no piensen en sectores sino en qué es lo que realmente les apasiona. Lo bueno de los tiempos en los que vivimos es que cada vez todo está más mezclado y puedes encontrar tu camino en un sector, en otro o incluso en la intersección entre varios. Y además ese camino no se establece al inicio de tus estudios y se vuelve inamovible. Puede ir modificándose con el tiempo. En mi caso empecé estudiando Publicidad, pero llevo más de dos décadas trabajando en el sector tecnológico (mayoritariamente masculino) y mi actual camino se encuentra en el cruce entre ese sector y la psicología (un área con más mujeres que hombres, incluso en investigación). Y quizá mañana aparezca una bifurcación tan interesante que sea momento de virar de nuevo. Nunca se sabe. Eso es lo bueno.        

¿Qué es lo que más valoras de tu trabajo como investigadora? ¿Qué momentos o descubrimientos te hacen sentir que lo que haces tiene sentido y merece la pena?

El foco común de todo mi trabajo de investigación es la toma de decisiones. Me fascina cómo las personas tenemos la presunción de que elegimos y nos comportamos libremente, cuando realmente no siempre es así. Resulta muy gratificante descubrir elementos que están influyendo en esas elecciones sin que hubiéramos sido conscientes de ello hasta entonces, y que mi trabajo pueda contribuir a mejorar esos procesos de decisión inadecuados.