Джозеф Кокс: я взломал банковский счет с помощью голоса, сгенерированного искусственным интеллектом

Банки в США и Европе рекламируют voice ID как безопасный способ входа в вашу учетную запись. Я доказал, что такие системы можно обмануть с помощью бесплатных или дешевых голосов, генерируемых искусственным интеллектом.

Банк думал, что разговаривает со мной; голос, сгенерированный искусственным интеллектом, определенно звучал так же.

В среду я позвонил на автоматическую линию обслуживания моего банка. Для начала банк попросил меня сказать своими словами, почему я звоню. Вместо того, чтобы говорить вслух, я щелкнул по файлу на моем ближайшем ноутбуке, чтобы воспроизвести звуковой клип: “Проверьте мой баланс”, - сказал мой голос. Но на самом деле это был не мой голос. Это был синтетический клон, который я создал, используя легкодоступную технологию искусственного интеллекта.

“Хорошо”, - ответили в банке. Затем он попросил меня ввести или произнести дату моего рождения в качестве первого элемента аутентификации. Введя это, банк сказал: “Пожалуйста, скажите: "Мой голос - это мой пароль”."

Снова я воспроизвел звуковой файл со своего компьютера. “Мой голос - это мой пароль”, - сказал голос. Система безопасности банка потратила несколько секунд на аутентификацию голоса.

“Спасибо”, - сказали в банке. Я был в шоке.

Я не мог в это поверить — это сработало. Я использовал копию голоса на базе искусственного интеллекта, чтобы взломать банковский счет. После этого у меня был доступ к информации о счете, включая остатки на счетах и список недавних транзакций и переводов.

Банки по всей территории США и Европы используют этот вид голосовой проверки, чтобы позволить клиентам входить в свою учетную запись по телефону. Некоторые банки рекламируют голосовую идентификацию как эквивалент отпечатка пальца, безопасный и удобный способ взаимодействия пользователей со своим банком. Но этот эксперимент разрушает идею о том, что биометрическая безопасность на основе голоса обеспечивает надежную защиту в мире, где теперь любой может генерировать синтетические голоса дешево, а иногда и бесплатно. Я воспользовался бесплатным сервисом создания голоса от ElevenLabs, мощной компании, работающей с искусственным интеллектом, которая уже использовалась для домогательств к конкретным людям.

Теперь это злоупотребление может распространяться на мошенничество и взлом. Некоторые эксперты, с которыми я беседовал после проведения этого эксперимента, теперь призывают банки вообще отказаться от голосовой аутентификации, хотя в реальном мире злоупотребления в это время могут быть редкими.

Рэйчел Тобак, генеральный директор компании SocialProof Security, специализирующейся на социальной инженерии, сказала материнской плате: “Я рекомендую всем организациям, использующим голосовую аутентификацию, как можно скорее перейти на безопасный метод проверки личности, такой как многофакторная аутентификация”. Такого рода репликация голоса может быть “завершена без необходимости взаимодействовать с человеком в реальная жизнь.”

Онлайн’тролли уже использовали ElevenLabs для создания копий голосов людей без их согласия, используя клипы с голосами людей онлайн. Потенциально любой, у кого есть хотя бы несколько минут своего голоса в открытом доступе — ютуберы, влиятельные люди в социальных сетях, политики, журналисты — может быть восприимчив к такого рода клонированию голоса.

провел тест на счете в Lloyds Bank в Великобритании. На своем веб-сайте Lloyds Bank заявляет, что его программа “Voice ID” безопасна. “Ваш голос подобен вашему отпечатку пальца и уникален только для вас”, - говорится на сайте. “Voice ID анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны для вас. Например, как вы используете свой рот и голосовые связки, ваш акцент и как быстро вы говорите. Он даже распознает вас, если у вас простуда или боль в горле”, - добавляет он.

Множество банков в США предлагают аналогичные услуги голосовой верификации. У TD Bank есть один под названием “VoicePrint”, и на его веб—сайте написано, что “Ваш голосовой отпечаток, как и ваш отпечаток пальца, уникален для вас - ни у кого другого нет такого голоса, как у вас”. У Chase есть “Voice ID”, который, как и Lloyds Bank, также утверждает, что голосовой отпечаток клиента “создается из более 100 различных физических и поведенческих характеристик.” Тем временем “Голосовая верификация” Wells Fargo “эффективно защищает вашу личность”, сообщается на веб-сайте банка.

Хотя я проводил тест только на Lloyds Bank, учитывая схожую природу и функционирование этих других систем, они также могут подвергаться риску для голосов, управляемых искусственным интеллектом. Многие банки позволяют пользователям выполнять множество банковских функций по телефону, таких как проверка истории транзакций, остатков на счетах и, в некоторых случаях, перевод средств.

Для этой конкретной атаки мошеннику также понадобилась бы дата рождения цели. Но благодаря множеству утечек данных, брокерам или людям, делящимся личными данными онлайн, дата рождения часто легко доступна.

Представитель Lloyds Bank заявил в заявлении, что “Голосовая идентификация является необязательной мерой безопасности, однако мы уверены, что она обеспечивает более высокий уровень безопасности, чем традиционные методы аутентификации, основанные на знаниях, и что наш многоуровневый подход к безопасности и предотвращению мошенничества продолжает обеспечивать надлежащий уровень защиты учетных записей клиентов, в то же время обеспечивая легкий доступ к ним при необходимости”.

Lloyds Bank заявил, что осведомлен об угрозе синтетических голосов и применяет контрмеры, но не видел случая, чтобы такой голос использовался для совершения мошенничества против его клиентов. По данным Lloyds Bank, синтетические голоса не так привлекательны для мошенников, как другие, гораздо более распространенные методы, а голосовая идентификация привела к значительному снижению мошенничества с использованием телефонного банкинга.

Учитывая, насколько редким на данный момент является мошенничество с использованием искусственного голоса, потребителям, вероятно, выгоднее использовать его, если это означает защиту от других видов мошенничества, таких как фишинг. Это исчисление может измениться, если потребитель является публичной фигурой, а в Интернете легко доступно множество высококачественных аудиозаписей его голоса.

TD Bank, Chase и Wells Fargo не ответили на запрос о комментариях относительно того, знают ли они о том, что голоса с использованием искусственного интеллекта используются для нацеливания на учетные записи клиентов, и какие меры по смягчению последствий, если таковые имеются, они предпринимают, чтобы остановить угрозу. В сентябре юристы подали в суд на группу финансовых учреждений США, поскольку биометрические голосовые отпечатки, используемые для идентификации абонентов, нарушают калифорнийский закон о вторжении в частную жизнь.

Бюро финансовой защиты потребителей, одно из агентств США, регулирующих финансовую индустрию, сообщило мне в заявлении после того, как я отправил видео-демонстрацию: “CFPB заботится о безопасности данных, и компании предупреждены, что они будут привлечены к ответственности за недобросовестную практику. Мы ожидаем, что любая фирма будет следовать закону, независимо от используемой технологии”.

Знаете ли вы что-нибудь еще о банковском голосовом идентификаторе или о том, как злоупотребляют голосами искусственного интеллекта? Мы были бы рады получить от вас весточку. Используя нерабочий телефон или компьютер, вы можете безопасно связаться с Джозефом Коксом по сигналу на +44 20 8133 5190 , Wickr на josephcox или по электронной почте [email protected] .

За последние несколько недель я протестировал несколько сервисов генерации голоса с помощью искусственного интеллекта. У большинства из них были проблемы или ограничения с воссозданием моего британского акцента, что было бы необходимо для доступа к банковскому счету Lloyds. В конце концов я использовал ElevenLabs, который хорошо справился с акцентом.

Чтобы создать голос, я записал около пяти минут речи и загрузил ее в ElevenLabs (для аудиоклипов я прочитал разделы европейского закона о защите данных). Некоторое время спустя синтетический голос был готов к использованию, и он произносил любой текст, введенный на сайт ElevenLabs.

Источник: https://www.vice.com/en/article/dy7axa/how-i-broke-into-a-bank-account-with-an-ai-generated-voice