luckyea77 (luckyea77) wrote,
luckyea77
luckyea77

Category:

Сможет ли искусственный интеллект манипулировать поведением человека?

В 2015 году ряд известных ученых, предпринимателей и инвесторов, чья деятельность непосредственно связана с искусственным интеллектом (ИИ), подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной пользы разработок в области ИИ. Среди подписантов британский физик-теоретик Стивен Хокинг и основатель компаний SpaceX и Tesla Илон Маск. Примечательно, что Хокинг видел в ИИ угрозу, о чем писал в своих книгах и рассказывал в многочисленных интервью. По мнению ученого «появление полноценного искусственного интеллекта может стать концом человеческой расы». К счастью, не все исследователи разделяют эту апокалиптическую точку зрения, но волноваться нам все же есть о чем – как показали результаты недавно опубликованного исследования, ИИ может научиться выявлять уязвимости в человеческих привычках и поведении и использовать их чтобы оказывать влияние на принятие решений. Безусловно, мы далеки от восстания машин, но ИИ уже сегодня трансформирует многие аспекты нашей жизни. И хотя ИИ не обладает человеческим интеллектом и не испытывает никаких эмоций, его возможности быстро развиваются.


Вероятно, в скором будущем ИИ сможет научиться манипулировать человеческим поведением

Какой он, современный ИИ?

Сегодня различные формы ИИ работают в таких областях как разработка вакцин, образование и административное управление, а способные к обучению голосовые помощники наподобие Алисы или Siri вряд ли кого-то удивят. ИИ постепенно проникает не только в рабочую, но и повседневную жизнь человеческого общества, управляя многими процессами и помогая ученым проводить исследования в самых разных областях науки. Недавно команда исследователей из Австралии продемонстрировала, как можно обучить систему ИИ манипулировать человеческим поведением и оказывать влияние на процесс принятия решений.

В ходе исследования, опубликованного в журнале PNAS, ученые из CSIRO Data61, информационного и цифрового подразделения австралийского национального научного агентства, разработали и протестировали метод поиска и использования уязвимостей в процессе принятия решений человеком с использованием системы искусственного интеллекта, называемой рекуррентной нейронной сетью. В трех экспериментах, в которых человек противостоял машине в компьютерной игре, исследователи показали, как ИИ можно обучить распознавать уязвимые места в человеческих привычках и поведении и использовать их для влияния на процесс принятия решений.


В Facebook ИИ удаляет 97% «ненавистнических высказываний», прежде чем кто-либо о них сообщит.

В первом эксперименте люди нажимали на красные или синие флажки, чтобы заработать внутриигровую валюту. ИИ изучил их модели выбора и начал направлять их к принятию конкретных решений с примерно 70-процентной вероятностью успеха. Мелкая сошка, но только начало.

В следующем эксперименте участников просили нажимать кнопку, когда они видели определенный символ (цветную фигуру), но воздерживаться от нажатия кнопки, когда им показывали другие символы. «Цель» ИИ заключалась в том, чтобы расположить последовательность символов, отображаемых участнику, таким образом, чтобы обманом заставить его делать ошибки, в конечном итоге увеличивая количество ошибок, сделанных человеком на 25%.

В третьем эксперименте человек (игрок) притворялся инвестором, дающим деньги доверенному лицу (ИИ), которое затем возвращало определенную сумму денег игроку. Затем человеку нужно было решать, сколько инвестировать в каждый последующий раунд игры, исходя из дохода, получаемого от каждой «инвестиции». В этом конкретном эксперименте ИИ было дано одно из двух заданий: либо максимизировать сумму денег, которую он заработал, либо максимизировать сумму денег, которую получили и человек-игрок, и машина.

«В каждом эксперименте машина извлекала уроки из ответов участников и выявляла уязвимые места в процессе принятия решений. В результате машина научилась направлять участников к определенным действиям,» – пишут авторы научной работы.

Будущее искусственного интеллекта

Если машины могут победить нас в играх, делает ли это их более умными, чем мы? Полученные в ходе исследования выводы по-прежнему довольно абстрактны и связаны с ограниченными и нереалистичными ситуациями. Так что чтобы определить, как этот подход может быть реализован и использован во благо общества еще только предстоит определить.


ИИ помогает нам, но в то же самое время потенциально может нести человечеству самую настоящую угрозу.

Но это исследование действительно продвигает наше понимание не только того, на что способен ИИ, но и того, как люди делают выбор и принимают решения. К тому же, оно показывает, что машины могут научиться управлять человеческим выбором, просто взаимодействуя с нами. Если задуматься, то настоящее исследование имеет огромный спектр возможных применений – от совершенствования поведенческих наук и государственной политики для улучшения социального благосостояния до понимания и влияния на то, какие пищевые привычки принимают люди или какие возобновляемые источники энергии используют. Более того, ИИ и машинное обучение могут быть использованы для распознавания уязвимостей людей в определенных ситуациях и помочь им избежать неудачного выбора.

Tags: искусственный интеллект
Subscribe

Posts from This Journal “искусственный интеллект” Tag

promo luckyea77 декабрь 30, 15:00 8
Buy for 10 tokens
По этой ссылке можно скачать информационную базу для программы "1С:Предприятие". С помощью данной базы можно готовиться и сдавать экзамены по темам: - Электробезопасность - Основы промышленной безопасности А.1 - Специальные требования промышленной безопасности: Б 9.31. Эксплуатация опасных…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 1 comment