Dra. Gemma Galdon Clavell
Doctora en Filosofía, Directora General y Fundadora de Eticas Consulting, Auditora de Algoritmos, Supervisora de Ética, analista de políticas (España)
Biografía del orador
La Dra. Gemma Galdon-Clavell es una voz principal de la ética tecnológica y la responsabilidad algorítmica a través de las auditorías de algoritmos.
Es finalista del Premio a las Mujeres Innovadoras de la UE de 2017.
La Dra. Galdon-Clavell ha dirigido la investigación como investigadora principal en más de 10 grandes proyectos. Es experta científica y ética en la Dirección General de Investigación e Innovación de la Comisión Europea y forma parte del consejo de Privacidad de Datos Internacional y Ética.
Realizó su doctorado sobre vigilancia, seguridad y política urbana en la Universidad Autónoma de Barcelona, donde también obtuvo un máster en gestión de políticas, y posteriormente fue nombrada directora del Programa de Políticas de Seguridad en la Universidad Oberta de Cataluña (UOC). Anteriormente, trabajó en el Transnational Institute, el Instituto de las Naciones Unidas para la Formación y la Investigación (UNITAR) y el Instituto Catalán de Seguridad Pública. Imparte clases sobre temas relacionados con su investigación en varias universidades extranjeras. Además, es analista habitual en televisión, radio y prensa escrita.
Discurso
Gracias por la invitación. Mi nombre es Gemma Galdon-Clavell. Dirijo una organización llamada Eticas. Nuestra misión es proteger a las personas en los procesos tecnológicos. Uno de nuestros principales servicios es la auditoría algorítmica.
Una de las cosas de las que nos hemos dado cuenta es que la IA está apareciendo por todas partes a nuestro alrededor. Toma decisiones cada vez más delicadas e importantes sobre nuestras vidas. Así que nuestro objetivo es aportar luz al mundo de la inteligencia artificial a través de mecanismos específicos como la auditoría que puede dar respuesta a las preguntas que la gente tiene sobre cómo se están gestionando sus datos para tomar las decisiones sobre sus vidas.
Tenemos tendencias que son preocupantes. Los datos se concentran en manos de unas pocas empresas privadas. El sector público ha perdido el control de cómo se gestionan nuestros datos. Así que vemos una superpotencia de empresas privadas de tecnología que se están estableciendo como los gobernantes de este mundo de datos. Eso es preocupante y es algo que ya existe.
Hay una dinámica por la que ciertos actores privados están tomando el control del mercado tecnológico. Este mercado tecnológico está tomando decisiones cada vez más serias sobre la vida cotidiana, el acceso a los servicios, el acceso al trabajo, la medicina, la salud. Esto debería estar en el control de las democracias de la población y no de las empresas tecnológicas que no tienen que dar explicaciones a nadie.
Uno de los problemas que tenemos es la transparencia del algoritmo. Estos algoritmos están tomando cada vez más decisiones sobre nuestras vidas y no sabemos cómo funcionan. Muchas veces ni siquiera tenemos métodos para saber cómo funcionan. En cualquier lugar fuera de Europa, no hay leyes que protejan a las personas y que ayuden a la gente a acceder a esos algoritmos.
Incluso en Europa, donde tenemos leyes, nadie las cumple. Es decir, tienes una ley, tienes un derecho, pero no puedes aplicarlo, no puedes usarlo realmente en la práctica, porque ninguna empresa tiene una política de transparencia cuando se trata de algoritmos. Eso es peligroso porque puedes ser despedido de tu trabajo por un algoritmo y no sabes por qué.
Otro riesgo es el riesgo para la economía. Mucha gente dice que los datos son el nuevo petróleo. Esa es una analogía muy mala. Los datos no son como el petróleo. Con el petróleo, con un poco de petróleo, puedes obtener algún valor. Con un poco de petróleo, puedes tener algo de gasolina y quizás tener una pequeña empresa de transporte o desarrollar algo. Con un poco de datos no puedes hacer nada. Así que es un mercado de monopolio, donde un sujeto se apodera de todo, de todo el valor. Así que sólo ganas en el mercado si tienes todos los datos.
Así que es básicamente "el ganador se lo lleva todo". Sólo uno puede ganar la batalla por los datos del mundo.
Eso es problemático porque esto no crea un ecosistema, no genera valor para la sociedad. Sólo estás generando valor para una entidad. Y todas las demás entidades que tratan de hacerlo, básicamente van a la quiebra en el proceso. Así que estás generando mucha más destrucción en la economía que la creación, construyendo nuevos mercados y nuevos ecosistemas económicos.