luckyea77 (luckyea77) wrote,
luckyea77
luckyea77

Алгоритм научился обманывать системы распознавания речи



Американские специалисты по компьютерным наукам разработали вредоносный алгоритм, который искажает речь в процессе ее преобразования в текст. За счет скрытых шумов устройство слышит скрытые слова и преобразует их в голосовые команды со скоростью 50 знаков в секунду. Наибольшую угрозу открытие несет владельцам голосовых помощников.

Эксперты из Калифорнийского университета в Беркли разработали алгоритм обмана системы распознавания речи. Для этого достаточно зашифровать в аудиосигнале незаметные шумы, которые система примет за речь. При трансформации программа расшифрует фальшивую речь в текст. Скорость преобразования при этом доходит до 50 знаков в секунду.

Свой алгоритм исследователи испытали на примере системы преобразования речи в текст DeepSpeech от Mozilla, которая доступна на GitHub. Исследователи зашифровали в аудиосигнале скрытое послание, и именно его распознала система. Специалисты заставили программу преобразовывать в желаемый текст даже музыку, которую DeepSpeech изначально не должна была воспринимать как речь. Добиться искажения удалось в 100% случаев.

Ранее те же исследователи нашли другой способ взлома голосовых помощников. Они придумали так называемые скрытые голосовые команды — шумы, которые виртуальные помощники принимали за текст. Однако такой системы вряд ли стали бы пользоваться злоумышленники — шумы были слишком заметными и звучали устрашающе.



Новая технология позволяет искажать речь незаметно. «В своей работе я хотел сделать потенциальную атаку более скрытой. С помощью новой методики я могу, например, взять видеоролик, добавить к нему немного вредоносных шумов, заново загрузить его — и система распознавания речи расшифрует его совсем иначе. При этом услышать искажения будет невозможно», — рассказал The Next Web один из экспертов Николас Карлини.

В перспективе ничто не помешает злоумышленникам зашифровать команду в рекламном ролике на ТВ или в популярной песне на радио, считает автор исследования. Технология в теории может позволить злоумышленникам контролировать виртуальные помощники, такие как Alexa или Siri.

Tags: технологии
Subscribe

Posts from This Journal “технологии” Tag

promo nemihail 13:00, yesterday 456
Buy for 20 tokens
Это я сейчас про обвинение в крушении малайзийского Boeing. Всё было до банальности предсказуемо и перед началом ЧМ, вдруг, случайно, появилось письмо с обвинением в адрес России. Совпадение? Не думаю (С) Ранее я уже писал, что России давно пора признать правду по крушению малайзийского…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments