Джемма Галдон-Клавелл

Спасибо за приглашение! Меня зовут Джемма Галдон-Клавелл. Я возглавляю организацию «Этикас». Наша миссия — защищать людей в технологических процессах, а одна из наших основных услуг — алгоритмический аудит.

Один из аспектов, который мы осознали, — это появление искусственного интеллекта повсюду вокруг нас. Он принимает всё более деликатные и важные решения, связанные с нашей жизнью. Поэтому мы стараемся выявлять то, что происходит в мире искусственного интеллекта, посредством специальных механизмов, таких как аудит. Он может дать ответы на вопросы людей о том, как осуществляется управление данными, отвечающими за принятие решений касательно их жизни.

В нашем обществе действительно наблюдаются тенденции, которые вызывают обеспокоенность. Данные сосредоточены в руках нескольких частных корпораций. Государственный сектор утратил контроль над управлением нашими данными. Мы видим огромную мощь частных технологических компаний, которые утверждаются в качестве правителей этого мира данных. Это беспокоит, это реально уже есть. 

Видна динамика того, как определённые частные структуры берут под контроль рынок технологий. И рынок технологий принимает всё более серьёзные решения, касающиеся повседневной жизни: доступа к услугам, доступа к работе, медицине, здоровью. Эти сферы должны быть контролируемы самим населением, а не технологическими компаниями, которые никому ничего не объясняют.

Одна из проблем, с которой мы сталкиваемся, — это прозрачность алгоритма. Эти алгоритмы принимают всё больше и больше решений о нашей жизни, а мы не знаем, как они работают. Зачастую у нас даже нет способов это узнать. Нигде за пределами Европы нет законов, которые защищают людей и помогают им получить доступ к этим алгоритмам. 

Даже у нас в Европе, где есть законы, они никем не исполняются. То есть у вас есть закон, у вас есть право, но вы не можете его реализовать, вы не можете реально использовать его на практике, потому что ни у одной компании нет политики прозрачности в том, что касается алгоритмов. Это опасно, потому что вас могут уволить с работы из-за какого-то алгоритма, а вы не узнаете почему. 

Другой риск — это риск для экономики. Многие люди говорят, что данные — это новая нефть. На самом деле это очень плохая аналогия. Данные не похожи на нефть. С небольшим количеством нефти вы можете получить некоторую ценность. Небольшое количество нефти даст вам немного бензина, позволит создать небольшую транспортную компанию или что-то разработать. А с небольшим количеством данных вы ничего не сможете сделать. То есть это монопольный рынок, где один субъект захватывает всё, всю ценность. И вы выигрываете на рынке, только если у вас есть все данные. По сути, «победитель получает всё». Только один может выиграть битву за данные в мире. 

И это проблема, потому что это не создаёт экосистему, не производит ценность для общества. Просто создаётся ценность для одного субъекта, а все остальные компании, которые пытаются это сделать, фактически разоряются по ходу дела. Таким образом, в экономике производится гораздо больше разрушений, чем созидания, когда создаются новые рынки и новые экономические экосистемы.