Клиент банка "Lloyds" из Великобритании получил доступ к своему банковскому счету с помощью голосового ИИ
Клиент банка "Lloyds Bank" из Великобритании обнаружил, что может получить доступ к своему банковскому счету с помощью голосового ИИ через идентификацию по "Voice ID".
Пользователь Джозеф Кокс выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в свою банковскую учётную запись. Он смог обмануть систему с помощью бесплатной версии решения от "ElevenLabs" для генерации своего синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.
Он проводил эксперимент несколько раз, так как изначально система "Lloyd Bank" сообщала, что не может аутентифицировать его голос. После внесения некоторых изменений в настройках "ElevenLabs" для генерации голоса, таких как чтение более длинного текста, чтобы каденции звучали более естественно, его сгенерированный голос успешно обошёл систему безопасности банка.
В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы – назвать свою дату рождения и прочитать «мой голос – мой пароль».
Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос – мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь своего аккаунта.
«Я не мог в это поверить – это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счёт. После этого у меня был доступ к информации об учётной записи, включая баланс и список последних транзакций и переводов», — уточнил Кокс.
На веб-сайте "Lloyds Bank" сообщается, что опция "Voice ID" абсолютна безопасна. «Ваш голос подобен отпечатку пальца и уникален для вас», — утверждает банк. — "Voice ID" анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны для вас. Например, как вы используете свой рот и голосовые связки, какой у вас акцент и как быстро вы говорите. Система также распознает вас, если у вас простуда или боль в горле», — уточнено на сайте банка в описании этой технологии.
Представитель "Lloyds Bank" заявил, что опция "Voice ID" обеспечивает высокий уровень защиты, чем традиционные методы аутентификации. По мнению банка, синтетические голоса не так привлекательны для мошенников, как другие методы для компрометации данных клиентов.
В "Lloyds Bank" в курсе об угрозе клиентам от синтетических голосов и там постоянно дорабатывают проверку голоса. В банке сообщили, что голосовая идентификация "Voice ID" уже привела к значительному снижению мошенничества с телефонным банкингом.
Профильные эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, такой как многофакторная аутентификация, как можно скорее. Они опасаются, что репликация голосов в этом году будет одним из векторов атак на учётные записи пользователей в банках, так как злоумышленники в курсе информации о дне рождения жертвы, а получить запись голоса можно также разными способами.
Аналогичную голосовую идентификацию предлагают банки в США, например, "TD Bank" (опция "VoicePrint"), банк "Chase" (также "Voice ID") и "Wells Fargo" (функция "Voice Verification"), которые, согласно описанию, «эффективно защищают личность клиента».
Ранее исследователи с помощью нейросети "elevenlabs.io" и "ChatGPT" рассказали голосом Стива Джобса про "ChatGPT". Особенность "elevenlabs.io" заключается в том, что нейросети достаточного слушать оригинальный голос в течение всего нескольких секунд, чтобы потом воспроизвести его.
В начале января "Microsoft" объявила о создании инструмента "VALL-E" для имитации любого голоса. Этому ИИ достаточно трёхсекундного образца для генерации полноценного голоса человека. Услышав конкретный голос, "VALL-E" создаст аудиозапись того, как человек говорит что-то, причём постарается сохранить даже его эмоциональный тон.
Подробнее
Lloyds Bank logged into using AI voice,Science & Technology,motherboard,motherboardtv,vice,vice magazine,documentary,science,technology,tech,sci-fi,artificial intelligence,AI,virtual reality,VR,vice videos,future,cryptocurrency,privacy,security,cyber,Subscribe to MOTHERBOARD: http://bit.ly/Subscribe-To-MOTHERBOARD Follow MOTHERBOARD Facebook: http://www.facebook.com/motherboardtv Twitter: http://twitter.com/motherboard Tumblr: http://motherboardtv.tumblr.com/ Instagram: http://instagram.com/motherboardvice More videos from the VICE network: https://www.fb.com/vicevideo
LLOYDS BANK Search Help & Support Branch Finder Logon ■ft Products and services v Help and support v Banking with us v Banking online v Home ► Contact us ► Voice ID Voice ID - fast, easy and safe What is Voice ID? Voice ID is a security feature available to Telephone Banking customers. It confirms your identity using your voice. If you're eligible and hold a bank, savings or credit card account with us, you can set up Voice ID. ✓ Fast • you won't need to remember security information or answer questions ✓ Easy • it's easy to set up and when you call us again, we'll confirm your identity by askingyou to repeat the simple phrase: "My voice is my password” ✓ Safe • your voice is like your fingerprint and unique to you For more information about our Telephone Banking Automated Service see below.
Speech Synthesis Settings cloned/j Voice Settings Text Check my balance ■+ Add voice
страны,Великобритания,Great Britain, UK,финансы,банк,Lloyds Bank,Lloyds,безопасность,кибербезопасность,ИИ,AI,нейросети,технологии,habr,длиннопост
Отличный комментарий!