Этой весной Клайв Кабацник, инвестор из Флориды, позвонил своему местному представителю Bank of America, чтобы обсудить крупный денежный перевод, который он собирался сделать. Затем он позвонил снова.
Вот только второй звонок был не от Кабацника. Вместо этого компьютерная программа искусственно сгенерировала его голос и попыталась обмануть банковского служащего, чтобы перевести деньги в другое место.
Кабацник и его банкир стали жертвами попытки мошенничества новейшего поколения, которая привлекла внимание экспертов по кибербезопасности: использование искусственного интеллекта для генерации голосовых дипфейков, имитирующих голоса реальных людей.
Проблема настолько нова, что нет точных данных частоты ее возникновения. Но эксперт, чья компания Pindrop контролирует аудиотрафик для многих крупнейших банков США, заявил, что в этом году он наблюдал рост распространенности и изощренности попыток голосового мошенничества со стороны мошенников. В конце прошлого года другой крупный поставщик аутентификации голоса, Nuance, подвергся первой успешной атаке с помощью голосовых дипфейков против клиента финансовых услуг.
В случае с Кабацником мошенничество было обнаружено. Однако скорость технологического развития, снижение стоимости программ искусственного интеллекта и широкая доступность записей голосов людей в Интернете создали идеальные условия для мошенничества с помощью программ ИИ, связанных с голосом.
Данные клиентов, такие как банковские счета, похищенные хакерами — и доступные на черных рынках — помогают мошенникам осуществлять подобные атаки. Они еще проще с состоятельными клиентами, чьи публичные выступления, включая речи, обычно широко доступны в Интернете. Найти аудио образцы обычных клиентов может быть так же просто, как искать в Интернете — например, в социальных сетях, таких как TikTok и Instagram — имя кого-то, чьи банковские данные уже есть у мошенников.
“Там много аудио контента”, — сказал Виджай Баласубраманиан, генеральный директор и основатель Pindrop, которая проверяет системы автоматической голосовой верификации восьми из 10 крупнейших кредитных организаций США.
За последнее десятилетие Pindrop проверил записи более 5 миллиардов звонков, полученных в колл-центрах финансовых компаний, которым он оказывает услуги. Центры обслуживают такие продукты, как банковские счета, кредитные карты и другие услуги, предлагаемые крупными розничными банками. Все колл-центры получают звонки от мошенников, обычно от 1000 до 10 000 в год. Обычно от мошенников поступает от 20 звонков в неделю, по словам Баласубраманиана.
До сих пор фальшивые голоса, созданные компьютерными программами, составляли лишь «горстку» из этих звонков, по словам Баласубраманиана, и начали появляться только в прошлом году.
Большинство атак с фальшивыми голосами, о которых знает Pindrop, произошли в колл-центрах кредитных карт, где живые представители обслуживают клиентов, которым нужна помощь с их картами.
Баласубраманиан показал журналисту анонимную запись одного из таких звонков, состоявшегося в марте. Хотя это очень примитивный пример — голос в данном случае звучит роботоподобно, больше похожий на электронного диктора, чем на человека, — звонок иллюстрирует, как могут происходить мошенничества по мере того, как ИИ все больше облегчает имитацию человеческих голосов.
Слышен банковский служащий, приветствующий клиента. Затем похожий на автоматизированный голос говорит: “Моя карта была отклонена”.
“Могу я спросить, с кем я разговариваю?”, — отвечает банковский служащий.
“Моя карта была отклонена”, — снова говорит голос.
Банковский служащий снова спрашивает имя клиента. Наступает тишина, во время которой слышен тихий звук нажатия клавиш. По словам Баласубраманиана, количество нажатий соответствует количеству букв в имени клиента. Мошенник набирает слова в программе, которая затем их озвучивает.
В данном случае синтетическая речь собеседника привела сотрудника к переадресации вызова в другой отдел и пометке его как потенциально мошеннического, объяснил Баласубраманиан.
Такие звонки, использующие технологию текст-в-речь, являются одними из самых простых для противодействия: колл-центры могут использовать программное обеспечение для обнаружения, чтобы идентифицировать технические признаки того, что речь была сгенерирована машиной.
«Синтетическая речь оставляет следы, и многие алгоритмы обнаружения подделок их обнаруживают», — объяснил Питер Суфлерис, генеральный директор IngenID, поставщика технологий биометрии голоса.
Тем не менее, как и со многими мерами безопасности, это гонка вооружений между нападающими и защитниками, и она развивается в последнее время. Теперь мошенник может просто говорить в микрофон или набирать сообщение, и быстро переводить его в голос цели.
Баласубраманиан отметил, что система генеративного искусственного интеллекта VALL-E от Microsoft может создать имитацию голоса, которая будет говорить то, что пользователь захочет, на основе аудио-образца длительностью всего три секунды.
В мае в выпуске 60 Minutes Рэйчел Тобак, консультант по безопасности, использовала программное обеспечение для настолько убедительного клонирования голоса Шарин Алфонси, одного из корреспондентов программы, что ей удалось обмануть сотрудника 60 Minutes и получить номер паспорта Алфонси.
Эта атака заняла всего пять минут, сказала Тобак, генеральный директор SocialProof Security. Инструмент, который она использовала, доступен для покупки с января.
Бретт Беранек, генеральный директор по безопасности и биометрии в Nuance, поставщике речевых технологий, приобретенном Microsoft в 2021 году, утверждает, что, хотя пугающие демонстрации голосовых дипфейков обычны на конференциях по безопасности, реальные атаки по-прежнему очень редки. Единственная успешная атака на клиента Nuance в октябре потребовала от злоумышленника более дюжины попыток.
Наибольшую обеспокоенность Беранека вызывают не атаки на колл-центры или автоматизированные системы, такие как биометрические голосовые системы, которые многие банки развернули. Его беспокоят аферы, когда звонящий напрямую связывается с человеком.
«На этой неделе я разговаривал с одним из наших клиентов», — сказал он. «Он сказал: Бретт, здорово, что наш колл-центр защищен, но что, если кто-то позвонит нашему генеральному директору прямо на мобильный телефон и представится кем-то другим?»
Именно это и произошло в случае с Кабацником. Согласно описанию банкира, похоже, что мошенник пытался убедить ее перевести деньги в новое место назначения, но голос был повторяющимся, перебивал ее и использовал путаные фразы. Банкир положила трубку.
«Это было похоже на то, что она разговаривала с ним, но это не имело смысла», — рассказал Кабацник о том, что сказала ему банкирша.
По словам Кабацника, после того, как она получила еще два похожих звонка подряд, банкир сообщила в службу безопасности Bank of America. Обеспокоенная безопасностью счета Кабацника, она перестала отвечать на его звонки и электронные письма, даже те, которые были от настоящего Кабацника. Потребовалось около десяти дней, чтобы восстановить связь, когда Кабацник организовал визит в ее офис.
«Мы постоянно обучаем нашу команду распознавать и идентифицировать мошенничества, чтобы помочь нашим клиентам избежать их», — прокомментировал Уильям Халдин, пресс-секретарь Bank of America, добавив, что не может комментировать конкретных клиентов или их опыт.
Хотя атаки становятся все более изощренными, они связаны с базовой угрозой кибербезопасности, которая существует уже десятилетия: утечки данных, раскрывающей личную информацию банковских клиентов. Между 2020 и 2022 годами личные данные более 300 миллионов человек попали в руки хакеров, что привело к потерям в размере 8,8 миллиардов долларов, по данным Федеральной торговой комиссии.
Как только они собрали партию номеров, хакеры изучают информацию и связывают ее с реальными людьми. Те, кто крадут информацию, почти никогда не являются теми же людьми, которые в конечном итоге ее получают. Вместо этого воры выставляют ее на продажу. Специалисты могут использовать любую из нескольких легкодоступных программ для фальсификации телефонных номеров клиентов, которых они намерены обмануть, и это, скорее всего, произошло в случае с Кабацником.
Легко найти записи его голоса. В Интернете есть видео, где он выступает на конференции и участвует в сборе средств.
«Я думаю, это довольно пугающе», — заключил Кабацник. «Проблема в том, что я не знаю, что с этим делать. Может, просто уйти в подполье и исчезнуть?»