luckyea77 (luckyea77) wrote,
luckyea77
luckyea77

Алгократия — форма власти, которая убьет демократию



Китай уверенно строит свою цифровую антиутопию, но и европейские государства используют технологии, нарушающие принципы демократии. На передний план выходит алгократия — власть алгоритмов. Как будет выглядеть «дивный новый мир», можно проследить на примере Дании.

О феномене преображения богатой демократической страны благодаря новым технологиям на службе государства рассказывает Business Insider.

«Зоркие глаза» по-европейски

Большинство стран Европы консервативно подходит к изменению систем социальных гарантий и, в частности, социальной защиты. В редких случаях некоторые государства решаются на эксперименты, например, вводят системы выплат по принципу безусловного дохода. Однако Дания пошла по другому пути.

Власти коммуны Гладсаксе в тестовом режиме запустили алгоритм, который на основе большого количества данных определяет вероятность жестокого обращения с детьми.

Система учитывает десятки факторов и по своему принципу напоминает ИИ-сервисы для прогнозирования преступлений.

Алгоритм собирает информацию из государственных баз данных: медицинские записи, сведения о работе и другие материалы, привязанные к личному идентификационному номеру гражданина. По совокупности факторов ИИ выявляет семьи, которые входят в группу риска. Прогноз позволяет датским соцработникам вмешаться в ситуацию на самом раннем этапе и, например, забрать ребенка из семьи.

О практике Китая напоминает то, что администрация Гладсакса тоже не поясняет, как именно работает алгоритмическая система. Известны лишь некоторые факторы риска, на которые обращает внимание ИИ. К ним относятся пропущенные визиты к врачам, жалобы на детей, поступающие от учебных заведений, а также сведения о родителях. Получатели пособий по безработице, а также граждане, которые стоят на учете из-за прошлых правонарушений, попадают под прицел первыми.

Как отмечают датские эксперты по праву Якоб Макхангама и Лю Хиньянь, жители Гладсакса не поддержали инициативу правительства, и пилотный проект пока так и не вышел за рамки эксперимента.

Это, однако, не помешало правительству Дании заявить о планах запуска аналогичной системы в масштабах всей страны.

Власти Дании также применяют машинное обучение и большие данные для контроля за получателями соцпособий. Агентство Udbetaling Danmark, которое занимается выдачей пособий, составляет списки получателей, которые вызывают у государства недоверие.

При этом учитываются данные из разных ведомств, в том числе сведения о браке и наличии детей, а также информация, предоставленная банками. Агентство планировало даже учитывать потребление электроэнергии, чтобы вычислять людей, которые проживают не по месту регистрации.

«Дания — тюрьма»

Эксперты признают, что такие меры нарушают права человека и вторгаются в его личную жизнь. В долгосрочной перспективе системы контроля и слежки способны привести к «самоубийству либеральной демократии», пишут Макхангама и Хиньянь.

«Все больше признаков указывает на движение Запада к алгократии. Такая форма власти помогает строить „дивный новый мир“, в котором многие аспекты жизни человека контролируются с помощью цифрового кода — зачастую втайне от граждан», — замечают авторы статьи.

Особую тревогу вызывает проблема «черного ящика» — то, что мы знаем лишь о решениях алгоритма, а не о логике, которой он руководствовался.

Даже сами разработчики не всегда понимают, почему ИИ делает тот или иной вывод на основе набора данных. В социальном секторе последствия таких решений особенно серьезны.

Кроме того, граждане — по крайней мере в Дании — не знают, в какой момент они попадают под контроль алгоритма. Об этом никто не извещает. «В конечном счете это сказывается на личной и семейной жизни, а также на свободе слова», — предупреждают эксперты.

Как ни парадоксально, но алгократия — это не ветвь авторитаризма, а власть, порожденная благими намерениями. Однако без строгого контроля над такими методами есть риск, что демократию принесут в жертву технологическому превосходству.

Tags: технологии
Subscribe

Posts from This Journal “технологии” Tag

promo luckyea77 june 21, 2015 20:04 27
Buy for 10 tokens
В этой записи я буду давать ссылки на посты с лекциями и уроками в этом блоге: Учебные материалы и тесты: Дистанционное образование Правила дорожного движения 11 ресурсов для бесплатного образования Сайты для обучения программированию Игры, в которых нужно писать код: Grid Garden, Elevator…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 1 comment