Dott.ssa Gemma Galdon Clavell

Grazie per avermi invitato! Mi chiamo Gemma Galdon Clavell. Dirigo un'organizzazione chiamata “ Eticas”. La nostra missione è proteggere le persone nei processi tecnologici, e uno dei nostri servizi principali è l'audit algoritmico.

Uno degli aspetti di cui ci siamo resi conto è l'emergere dell'intelligenza artificiale intorno a noi. Sta prendendo decisioni sempre più sensibili e importanti relative alla nostra vita. Quindi stiamo cercando di identificare ciò che sta accadendo nel mondo dell'intelligenza artificiale attraverso meccanismi specifici, come gli “audit”, che  possono fornire risposte alle domande delle persone su come vengono gestiti i loro dati, per poi poter  prendere decisioni sulla loro vita.

Ci sono effettivamente delle tendenze  nella nostra società che sono motivo di preoccupazione. I dati sono concentrati nelle mani di poche società private. Il settore pubblico ha perso il controllo della gestione dei nostri dati. Stiamo assistendo all'enorme potere delle aziende tecnologiche private che si affermano come  padroni di questo mondo di dati. Questo è preoccupante, ed è qualcosa che già esiste. 

Si può vedere la dinamica di alcune strutture del settore privato che prendono il controllo del mercato tecnologico. E il mercato della tecnologia sta prendendo decisioni sempre più serie sulla vita quotidiana: l’accesso ai servizi, l’accesso al lavoro,la  medicina, la salute. Queste aree dovrebbero essere controllate dalla popolazione stessa, non dalle aziende tecnologiche, che non spiegano niente a nessuno.

Uno dei problemi che dobbiamo affrontare è la  

trasparenza degli algoritmi.Questi algoritmi stanno prendendo sempre più decisioni sulle nostre vite, e non sappiamo come funzionano. Spesso non abbiamo nemmeno il modo di scoprirlo. Da nessuna parte al di fuori dell'Europa ci sono leggi che proteggono le persone e le aiutano ad accedere a questi algoritmi. 

Anche qui in Europa, dove abbiamo delle leggi, nessuno le rispetta. Quindi, se hai una legge hai un  diritto, ma non la puoi implementare, non puoi davvero  usarla nella pratica, perché nessuna azienda ha una politica di trasparenza quando si tratta di  algoritmi. Questo è pericoloso perché potresti essere licenziato dal tuo lavoro a causa un algoritmo, e non sapere il  perché. 

L'altro rischio è quello dell'economia. Molti dicono che i “dati”, sono il nuovo petrolio. In effetti, questa è una pessima analogia. I dati non sono come il petrolio. Con una piccola quantità di olio si 

può ottenere un certo valore. Una piccola quantità di petrolio vi darà un po' di benzina, vi permetterà di creare una piccola azienda di trasporti o di sviluppare qualcosa.  Con una piccola quantità di dati non si può fare nulla. Quindi è un mercato monopolistico dove un solo ente si prende  tutto, tutto il valore. E si vince il mercato solo se si hanno tutti i dati. 

In sostanza "chi vince prende tutto". Solo uno può vincere la battaglia dei dati nel mondo. 

E questo è un problema perché in tal modo  non si crea un ecosistema, non si produce valore per la società. Si crea solo valore per un ente, e tutte le altre aziende che cercano di farcela falliscono lungo la strada. Così, si produce molta più distruzione nell'economia, piuttosto  che creazione  con la  costruzione di  nuovi mercati e nuovi ecosistemi economici.