Китай уверенно строит свою цифровую антиутопию, но и европейские государства используют технологии, нарушающие принципы демократии. На передний план выходит алгократия — власть алгоритмов. Как будет выглядеть «дивный новый мир», можно проследить на примере Дании.
О феномене преображения богатой демократической страны благодаря новым технологиям на службе государства рассказывает Business Insider.
«Зоркие глаза» по-европейски
Большинство стран Европы консервативно подходит к изменению систем социальных гарантий и, в частности, социальной защиты. В редких случаях некоторые государства решаются на эксперименты, например, вводят системы выплат по принципу безусловного дохода. Однако Дания пошла по другому пути.
Власти коммуны Гладсаксе в тестовом режиме запустили алгоритм, который на основе большого количества данных определяет вероятность жестокого обращения с детьми.
Система учитывает десятки факторов и по своему принципу напоминает ИИ-сервисы для прогнозирования преступлений.
Алгоритм собирает информацию из государственных баз данных: медицинские записи, сведения о работе и другие материалы, привязанные к личному идентификационному номеру гражданина. По совокупности факторов ИИ выявляет семьи, которые входят в группу риска. Прогноз позволяет датским соцработникам вмешаться в ситуацию на самом раннем этапе и, например, забрать ребенка из семьи.
О практике Китая напоминает то, что администрация Гладсакса тоже не поясняет, как именно работает алгоритмическая система. Известны лишь некоторые факторы риска, на которые обращает внимание ИИ. К ним относятся пропущенные визиты к врачам, жалобы на детей, поступающие от учебных заведений, а также сведения о родителях. Получатели пособий по безработице, а также граждане, которые стоят на учете из-за прошлых правонарушений, попадают под прицел первыми.
Как отмечают датские эксперты по праву Якоб Макхангама и Лю Хиньянь, жители Гладсакса не поддержали инициативу правительства, и пилотный проект пока так и не вышел за рамки эксперимента.
Это, однако, не помешало правительству Дании заявить о планах запуска аналогичной системы в масштабах всей страны.
Власти Дании также применяют машинное обучение и большие данные для контроля за получателями соцпособий. Агентство Udbetaling Danmark, которое занимается выдачей пособий, составляет списки получателей, которые вызывают у государства недоверие.
При этом учитываются данные из разных ведомств, в том числе сведения о браке и наличии детей, а также информация, предоставленная банками. Агентство планировало даже учитывать потребление электроэнергии, чтобы вычислять людей, которые проживают не по месту регистрации.
«Дания — тюрьма»
Эксперты признают, что такие меры нарушают права человека и вторгаются в его личную жизнь. В долгосрочной перспективе системы контроля и слежки способны привести к «самоубийству либеральной демократии», пишут Макхангама и Хиньянь.
«Все больше признаков указывает на движение Запада к алгократии. Такая форма власти помогает строить „дивный новый мир“, в котором многие аспекты жизни человека контролируются с помощью цифрового кода — зачастую втайне от граждан», — замечают авторы статьи.
Особую тревогу вызывает проблема «черного ящика» — то, что мы знаем лишь о решениях алгоритма, а не о логике, которой он руководствовался.
Даже сами разработчики не всегда понимают, почему ИИ делает тот или иной вывод на основе набора данных. В социальном секторе последствия таких решений особенно серьезны.
Кроме того, граждане — по крайней мере в Дании — не знают, в какой момент они попадают под контроль алгоритма. Об этом никто не извещает. «В конечном счете это сказывается на личной и семейной жизни, а также на свободе слова», — предупреждают эксперты.
Как ни парадоксально, но алгократия — это не ветвь авторитаризма, а власть, порожденная благими намерениями. Однако без строгого контроля над такими методами есть риск, что демократию принесут в жертву технологическому превосходству.
Journal information