Dr. Gemma Galdon Clavell
PhD., zakladateľka a CEO Eticas Consulting, odborníčka v oblasti auditu algoritmov a kontroly dodržiavania etických noriem, politická analytička (Španielsko)
O rečníkovi
Gemma Galdon Clavell je poprednou expertkou v oblasti technickej etiky a zodpovednosti algoritmov prostredníctvom ich auditu.
Je finalistkou Ceny EÚ pre ženy-inovátorky z roku 2017.
Dr. Galdon Clavell viedla výskumy ako hlavný výskumník vo viac než 10 veľkých projektoch. Je vedeckou a etickou expertkou Generálneho direktoriátu pre výskum a inovácie Európskej komisie a je členkou vedenia Privacy International a Data & Ethics.
Obhájila doktorskú dizertáciu o otázkach sledovania, bezpečnosti a mestskej politiky na Autonómnej univerzite v Barcelone, kde takisto získala magisterský titul z manažovania politiky. Potom bola vymenovaná za riaditeľku programu bezpečnosti na Otvorenej univerzite Katalánska (UOC). Predtým pracovala v Transnacionálnom inštitúte, Vzdelávacom a vedecko-výskumnom inštitúte OSN (UNITAR) a v Katalánskom Inštitúte verejnej bezpečnosti. Prednáša v niekoľkých zahraničných univerzitách témy spojené s jej výskumami. Okrem toho je stálou analytičkou v televíznych, rozhlasových i tlačových médiách.
Reč
Ďakujem za pozvanie! Volám sa Gemma Galdon Clavell. Vediem organizáciu s názvom Eticas. Naším poslaním je chrániť ľudí v technologických procesoch. Jednou z našich hlavných služieb je audit algoritmov.
Jednou z vecí, ktoré sme si uvedomili, je, že UI sa objavuje všade okolo nás. Robí čoraz citlivejšie rozhodnutia o našich životoch. Naším cieľom je teda vniesť svetlo do sveta UI prostredníctvom špecifických mechanizmov, ako je audit, ktorý môže poskytnúť odpovede na otázky, ktoré majú ľudia o tom, ako sa spravujú údaje o ľuďoch a ako sa tieto údaje používajú na rozhodovanie o ich životoch.
Máme tu tendencie, ktoré sú znepokojujúce. Údaje sa sústreďujú v rukách niekoľkých súkromných spoločností. Verejný sektor stratil kontrolu nad tým, ako sa spravujú naše údaje. A tak vidíme superveľmoc súkromných technologických spoločností, ktoré sa etablujú ako vládcovia tohto dátového sveta. A to je znepokojujúce a je to niečo, čo už existuje.
Určité súkromné subjekty preberajú kontrolu nad technologickým trhom. A tento technologický trh robí čoraz závažnejšie rozhodnutia o každodennom živote, prístupe k službám, práci, medicíne, zdraví. Toto by malo byť pod kontrolou demokracií v populácii, a nie technologických spoločností, ktoré nemusia nikomu poskytovať vysvetlenia.
Jeden z problémov, ktorý máme, je transparentnosť algoritmu. Takže tieto algoritmy robia čoraz viac rozhodnutí o našich životoch a my nevieme, ako fungujú. A často ani nemáme spôsoby, ako zistiť, ako fungujú. Nikde mimo Európy neexistujú zákony, ktoré by chránili ľudí a pomáhali im získať prístup k týmto algoritmom.
Dokonca aj v Európe, kde máme zákony, ich nikto nedodržiava. Takže máte zákon, máte právo, ale nemôžete ho implementovať, nemôžete ho reálne použiť v praxi, pretože žiadna spoločnosť nemá politiku transparentnosti, pokiaľ ide o algoritmy. To je nebezpečné, pretože vás môžu vyhodiť z práce kvôli algoritmu a vy neviete prečo.
Ďalším rizikom je riziko pre ekonomiku. Mnohí ľudia hovoria, že dáta sú novou ropou. To je naozaj zlé prirovnanie. Údaje nie sú ako ropa. Pri rope, pri troche ropy, môžete získať určitú hodnotu. S trochou ropy môžete mať trochu benzínu a možno mať malú dopravnú spoločnosť alebo niečo vyvinúť. S trochou údajov nemôžete urobiť nič. Takže je to monopolný trh, kde sa jeden aktér zmocní všetkého, všetkých hodnôt. Takže na trhu vyhrávate jedine vtedy, ak máte všetky údaje.
Takže v podstate platí, že "víťaz berie všetko". Len jeden môže vyhrať bitku o dáta sveta.
A to je problematické, pretože v podstate nevytvárate ekosystém, nevytvárate hodnotu pre spoločnosť. Vytvárate len hodnotu pre jeden subjekt. A všetky ostatné subjekty, ktoré sa o to pokúšajú, v podstate v tomto procese skrachujú. Takže v ekonomike vytvárate oveľa viac deštrukcie, než v skutočnosti tvoríte - budovaním nových trhov a nových ekonomických ekosystémov.