Innovadoras TIC charla con Gemma Galdón (Mataró, 1976), finalista de los premios EU Woman Innovator of the Year 2017, seleccionada Ashoka Fellow 2020 y fundadora de Éticas Consulting, una auditora de algoritmos centrada en mejorar la calidad de los datos a través de equipos multidisciplinares para que la IA no deje a nadie atrás.

Hola Gemma. Cuéntanos, ¿cómo llega una estudiante de historia a crear una PYME que une tecnología, sociedad y seguridad?

Siempre he estado involucrada en temas sociales, recaudando fondos para ONG locales, y fui activista en The Transnational Institute durante más de diez años. Empecé investigando el campo de la vigilancia y el urbanismo, y es aquí donde empezó a apasionarme el impacto de la tecnología en la vida cotidiana. Estudié un doctorado en Políticas de Seguridad y Tecnología y de la universidad salió el spin-off de Éticas, donde como bien dices, unimos tecnología, sociedad y seguridad.

¿Cuál ha sido el mayor reto al que te has enfrentado al crear Éticas Consulting?

Creo que emprender, sea en el ámbito que sea, siempre es duro, pero hacerlo desde una perspectiva social y con un producto pionero en el mundo que, además, es tecnológicamente complejo y tienes que explicar de cero a la vez que conciencias sobre la necesidad de su implementación, ha convertido esta empresa en un reto especialmente duro en todo el conjunto. Pero precisamente por eso es también tan satisfactorio.

¿En qué consiste la ética digital y cómo puede transformar la sociedad a corto plazo?

La ética digital no es más que aplicar los grandes principios que rigen nuestra sociedad (igualdad de oportunidades, transparencia, no discriminación…) a las herramientas tecnológicas, actualmente totalmente integradas en nuestro día a día. Por eso tiene tantísimo impacto en nuestra sociedad, porque lo digital está entrelazado en todos los niveles de nuestra vida y podemos utilizarlo para hacer de este mundo un sitio mejor.

¿Qué beneficios aporta la Inteligencia Artificial para ser más eficaces y respetuosos con los Derechos Fundamentales?

La IA es una herramienta, una forma de automatizar la toma de decisiones. Por eso es imprescindible que le incorporemos un control externo que garantice que respeta los Derechos Fundamentales, porque va a dar forma a la sociedad a través de decisiones como la aprobación de ayudas o de bonos sociales, la concesión de créditos, la selección de recursos humanos… pero de una forma mucho más rápida y eficaz que nosotros. Por eso hay que diseñarla incorporando garantías que nos protejan ante discriminaciones negativas.

¿Qué es la auditoría algorítmica y para qué sirve?

La Auditoría de Algoritmos sirve para comprobar que las garantías legales se aplican al mundo digital, especialmente a la Inteligencia Artificial. Es decir, funciona como garantía de que los algoritmos no tienen sesgos ni ineficiencias, también para un mejor desarrollo del negocio. Como una auditoría fiscal analiza y verifica cuentas, una auditoría de algoritmos investiga el diseño, los datos que entrenan al algoritmo y las decisiones que toma, si se ajusta a la Ley y si es lo más eficaz posible.

Y es que el procesamiento de datos o Big Data, sobre todo basado en técnicas de Inteligencia Artificial que utilizan información personal, tiene enormes efectos en nuestra vida a nivel social, económico y jurídico. Pero el desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas hace que no siempre sigan criterios éticos. En estos casos, puede resultar en sesgos, malas prácticas o discriminación, sobre todo, de personas y colectivos especialmente vulnerables.

Para hacer esta tecnología más explicable, transparente y controlable, hemos publicado la Guía de Auditoría Algorítmica, con la que ponemos a disposición de cualquiera nuestra metodología de una forma general y replicable a modo de “manual de instrucciones” para que la ciudadanía, las instituciones públicas y las empresas tengan más control sobre los algoritmos que ya están decidiendo sobre su vida.

Fuiste finalista del Premio de la Unión Europea a Mujeres Innovadoras en 2017 y seleccionada por Ashoka como Emprendedora Social 2020, ¿Qué repercusión han tenido estos reconocimientos en tu trabajo diario?

Sin duda, la visibilidad que dan estas instituciones de tanto renombre es muy positiva para concienciar sobre la necesidad de nuestro trabajo en Éticas. Especialmente, la ayuda recibida por Ashoka está siendo de valor incalculable, tanto para la mejora de procesos internos como para llegar a ámbitos a los que no tendríamos acceso de otro modo.

¿Lo mejor y lo peor de emprender?

Lo mejor es poder dedicarte a lo que te apasiona, ver resultados y saber que son del equipo. Mientras lo peor es lo poco que se apoya al emprendedor, las pocas facilidades para que desarrolle su negocio, especialmente en el ámbito tecnológico, y más todavía si tiene un fin social.

Háblanos de las referentes femeninas que has tenido, ¿consideras que tenemos suficientes?

Claramente no hay suficientes. No solo a nivel de referencia genérica, sino también personas de quienes aprender cosas pequeñas, cotidianas. Quizás lo segundo es lo que más he echado en falta. Mi referente principal es claramente mi madre. En lo profesional, por suerte mi ámbito está liderado por mujeres: Cathy O’Neil, Joy Buolamwini, Virginia Eubanks… Todas las mujeres asertivas marcan el camino

Piensa en el momento de decidir a qué te querías dedicar, ¿crees que tu elección estuvo libre de sesgos?

No, seguro que no. Todas tenemos influencias externas, nuestras experiencias nos condicionan y tomamos decisiones basándonos en nuestro entorno. A mi, sin duda, una de las grandes influencias de mi vida fue haber nacido en contra de las estadísticas… Mi madre me tuvo con 14 años, y para cualquier sistema informático tenía posibilidades casi nulas porque cualquier algoritmo prevé que los hijos de preadolescentes tendrán problemas de desarrollo, pero yo rompí esas probabilidades. Eso, sumado a una infancia en un entorno sociocultural en el que se me estigmatizaba, me hizo preocuparme de quien no encaja. Y es que para un algoritmo lo aceptable es la muestra más representativa, en nuestra cultura eso significa un hombre blanco de mediana edad. Los demás somos discriminados.

Un consejo para las niñas y mujeres que están leyendo esta entrevista.

Que se rodeen de quien les sume, de quien les haga mejores y se alejen de quien les recuerde lo que no pueden hacer. Porque, en contra de muchas estadísticas, podemos conseguir lo que nos propongamos.

Algo que te defina: una palabra, una experiencia, un color, un verbo, un adjetivo, un estado de ánimo… y por qué.

Palabra que me defina: yo creo que me define la resiliencia. Según mi madre, me define la Abeja Maya, que dice que me forjó el carácter.