Dr. Gemma Galdon Clavell
PhD, CEO en oprichter van Eticas Consulting, algoritmisch auditeur, ethisch toezichthouder, beleidsanalist (Spanje)
Bio spreker
Dr. Gemma Galdon-Clavell is een vooraanstaande stem op het gebied van tech-ethiek en algoritmische verantwoording door middel van algoritme-audits.
Ze is finalist van de EU Women Innovators Prize 2017.
Dr. Galdon-Clavell heeft als hoofdonderzoeker onderzoek geleid in meer dan 10 grote projecten. Ze is wetenschappelijk en ethisch expert bij het directoraat-generaal Onderzoek en Innovatie van de Europese Commissie en zit in het bestuur van Privacy International en Data & Ethics.
Ze promoveerde op surveillance, veiligheid en stedelijk beleid aan de Universitat Autònoma de Barcelona, waar ze ook een MSc over beleidsmanagement behaalde, en werd later benoemd tot directeur van het programma veiligheidsbeleid aan de Universitat Oberta de Catalunya (UOC). Voordien werkte zij bij het Transnational Institute, het Instituut voor Opleiding en Onderzoek van de Verenigde Naties (UNITAR) en het Catalaans Instituut voor Openbare Veiligheid. Zij doceert onderwerpen in verband met haar onderzoek aan verschillende buitenlandse universiteiten. Daarnaast is zij regelmatig te horen op TV, radio en in de gedrukte media.
Speech
Bedankt om me uit te nodigen! Mijn naam is Gemma Galdon Clavell. Ik leid een organisatie genaamd Ethicas. Onze missie is mensen te beschermen in technologische processen, en een van onze belangrijkste diensten is algoritmische auditing.
Een van de aspecten waarvan wij ons bewust zijn geworden, is de opkomst van kunstmatige intelligentie overal om ons heen. Het neemt steeds gevoeliger en belangrijker beslissingen met betrekking tot ons leven. Wij proberen dus te achterhalen wat er in de wereld van de artificiële intelligentie gebeurt via specifieke mechanismen, zoals auditing. Het kan antwoorden geven op vragen van mensen over de manier waarop de gegevens die verantwoordelijk zijn voor het nemen van beslissingen over hun leven, worden beheerd.
Er zijn inderdaad trends in onze samenleving die reden tot bezorgdheid geven. Gegevens zijn geconcentreerd in de handen van een paar particuliere bedrijven. De overheidssector heeft de controle over het beheer van onze gegevens verloren. Wij zien de enorme macht van particuliere technologiebedrijven die zich opwerpen als de heersers van deze gegevenswereld. Dit is verontrustend, en het is er echt al.
U ziet de dynamiek van bepaalde entiteiten uit de particuliere sector die de technologiemarkt beheersen. En de technologiemarkt neemt steeds serieuzere beslissingen over het dagelijks leven: toegang tot diensten, toegang tot werk, geneeskunde, gezondheid. Deze gebieden moeten door de bevolking zelf worden gecontroleerd, niet door technologiebedrijven, die niemand iets uitleggen.
Een van de problemen waarmee we te maken hebben is de transparantie van algoritmen. Deze algoritmen nemen steeds meer beslissingen over ons leven, en we weten niet hoe ze werken. Vaak hebben we niet eens mogelijkheden om erachter te komen. Nergens buiten Europa zijn er wetten die mensen beschermen en hen helpen toegang te krijgen tot deze algoritmen.
Zelfs hier in Europa, waar we wetten hebben, worden die door niemand gehandhaafd. Dat wil zeggen, je hebt de wet, je hebt het recht, maar je kunt het niet afdwingen, je kunt het niet daadwerkelijk in de praktijk gebruiken, omdat geen enkel bedrijf een beleid van transparantie voert wat algoritmen betreft. Dit is gevaarlijk, omdat je op grond van een algoritme ontslagen kunt worden, zonder dat je weet waarom.
Het andere risico is het risico voor de economie. Veel mensen zeggen dat gegevens de nieuwe olie zijn. In feite is dat een zeer slechte analogie. Gegevens zijn niet zoals olie. Met een kleine hoeveelheid olie kun je wat waarde krijgen. Met een kleine hoeveelheid olie heb je wat benzine, kun je een klein transportbedrijf opzetten of iets ontwikkelen. En met een kleine hoeveelheid gegevens kun je niets doen. Het is dus een monopoliemarkt waar één entiteit alles, alle waarde, verovert. En je wint de markt alleen als je alle gegevens hebt.
In wezen ‘de winnaar krijgt alles’. Slechts één kan de datastrijd in de wereld winnen.
En dat is een probleem, want het creëert geen ecosysteem, het produceert geen waarde voor de samenleving. Het creëert slechts waarde voor één entiteit, en alle andere bedrijven die het proberen, gaan onderweg failliet. Er wordt in de economie dus veel meer vernietigd dan gecreëerd wanneer nieuwe markten en nieuwe economische ecosystemen worden gecreëerd.