luckyea77 (luckyea77) wrote,
luckyea77
luckyea77

Пять законов робототехники от Google

Google решил позаботиться о том, чтобы роботы не причиняли вред человеку. Точнее, о том, чтобы они не причиняли вред человеку своей ленью, а потому компания решила разработать свои собственные законы робототехники.



Последнее время многие ученые, пусть и теоретически, но регулярно начинают изучать вопрос, что делать, если вдруг произойдет восстание машин. Тот же Google проводит исследование, как сделать «выключатель для Скайнета», другие ученые анализируют, как станет себе вести искусственный интеллект, который захочет активно навредить людям. Теперь же компания Google опубликовала статью, исследующую «конкретные проблемы безопасности ИИ». Правда, ученые компании подошли к вопросу приземленно, и провели исследование на роботе-уборщике, а не на гипотетической всесильной системе, жаждущей мирового господства.

Итак, вот те проблемы, которые по мнению ученых из Google надо будет решить разработчикам искусственного интеллекта в первую очередь:

1) избежать негативных побочных эффектов, или же «как мы можем быть уверены, что робот-уборщик не собьет с постамента вазу, если решит, что так работу можно сделать быстрее?»
2) избежать проблем с вознаграждением, или же «как мы можем быть уверены, что робоуборщик просто не заметет мусор под диван вместо уборки?»
3) приемлемый надзор, или «как мы можем быть уверены, что робоуборщик будет быстро всему учится, а не спрашивать постоянно, где стоит швабра?»
4) безопасное исследование, или «как мы можем быть уверены, что робоуборщик будет выбирать наилучшие стратегии уборки, но в процессе не решит в качестве эксперимента сунуть швабру в розетку и не сожжет весь дом?»
5) Здравомыслие при изменении окружающей среды, или «как нам научить робота понимать, что его навыки в изменившихся условиях бесполезны?»

Да, будущие законы робототехники, похоже, будут сильно отличаться от классики Айзека Азимова.

Tags: google, робот
Subscribe

Posts from This Journal “робот” Tag

promo nemihail 15:00, yesterday 59
Buy for 20 tokens
В нашей стране лохов дураков ещё лет на 100 вперед припасено и некоторые "бизнесмены" этим успешно пользуются. Сегодня расскажу, как разводят инвесторов на Бали впаривая им замечательное инвестиционное предложение или шикарную виллу с райской открытки по низкой цене. (фото:…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments