Участились мошенничества с использованием голосового ИИ и клонирующих технологий

Самые влиятельные люди на планете пока не совсем понимают, что делать с искусственным интеллектом, который быстро становится одной из самых значительных новых технологий в истории.

Но преступники-то знают.

За шесть месяцев с момента, как OpenAI впервые выпустила ChatGPT на широкую публику и запустила гонку искусственного интеллекта с потенциалом переписать историю, новый вид киберпреступников стал одним из первых, кто заработал на этом.

Эти преступники следующего поколения вооружены сложными инструментами и техниками, чтобы похищать сотни тысяч долларов у простых людей.

"Я наблюдаю чрезвычайно тревожный рост преступников, использующих передовую технологию - искусственно созданные глубокие подделки и клонированные голоса - для осуществления очень хитрых схем, которые практически невозможно обнаружить", - рассказывает Хэйвуд Талков, генеральный директор группы по государственным рискам LexisNexis Risk Solutions, международной компании по информационным и аналитическим решениям.

"Если вы получаете звонок ночью и услышите точно такой же голос, как ваш взволнованный ребенок или внук, который говорит: 'Помогите, я попал в автомобильную аварию, у полиции нашли наркотики в машине, и мне нужны деньги на залог (или на адвоката)', это мошенничество", - пояснил Талков.

В начале этого года правоохранительные органы Канады сообщили, что один человек использовал искусственно сгенерированные голоса, которые он, вероятно, клонировал из профилей в социальных сетях, чтобы обмануть как минимум восемь пожилых граждан, которые лишились 200 000 долларов всего за три дня.

Звонки поступают с неизвестного номера (хотя даже номера мобильных телефонов легко подделывают в наше время). На связь выходит голос, который точно звучит как ваш близкий и говорит, что у него проблемы. Затем связь обрывается, вы слышите крик, и на линию выходит другой голос, требующий выкуп.

ФБР, ФТК и даже Национальный институт здравоохранения предупреждают о подобных мошеннических схемах, нацеленных на родителей и бабушек с дедушками по всей территории Соединенных Штатов. За последние несколько недель это произошло в Аризоне, Иллинойсе, Нью-Йорке, Нью-Джерси, Калифорнии, Вашингтоне, Флориде, Техасе, Огайо, Виргинии и многих других штатах.

Один из особенных агентов ФБР в Чикаго сообщил CNN, что семьи в Америке в среднем теряют по 11 000 долларов на каждом поддельном похищении.

Вот что нужно делать, если вы получите такой звонок: Талков рекомендует использовать пароль, который знают только вы и ваш ближайший круг лиц. Не используйте что-то, что легко обнаружить онлайн - никакие имена домашних животных, любимых групп и тому подобное. Лучше всего использовать два или три слова, о которых знаете только вы. Если вы получаете звонок, который звучит как ваш близкий, сразу же попросите их назвать кодовое слово или фразу.

Если звонящий притворяется сотрудником правоохранительных органов, скажите ему, что у вас плохое соединение и вы перезвоните. Спросите название учреждения, из которого он звонит (охрана кампуса, местная тюрьма, ФБР) и положите трубку (хотя мошенники могут говорить практически все, чтобы заставить вас остаться на линии). Если вы не можете связаться со своим близким, найдите телефонный номер этого учреждения или позвоните в местные правоохранительные органы и расскажите им о происходящем.

Помните, что эти преступники используют страх, панику и другие проверенные тактики, чтобы заставить вас делиться личной информацией или отправлять деньги. Обычно звонящий хочет, чтобы вы отправили деньги по банковскому переводу, отправили криптовалюту или купили подарочные карты, сообщив им номера карты и пин-коды. Все это является серьезными сигналами тревоги. Также будьте более осторожными, чем когда-либо, в отношении информации, которую вы распространяете в мире.

“Преступнику требуется всего три секунды аудиозаписи вашего голоса, чтобы ”клонировать" его", - предупреждает Талков. “Будьте очень осторожны с социальными сетями. Подумайте о том, чтобы сделать ваши учетные записи приватными. Не раскрывайте имен своей семьи или даже своей собаки. Это вся информация, которую преступник, вооруженный технологией глубокой подделки, может использовать, чтобы втянуть вас или ваших близких в мошенничество”.

Тальков поделился полудюжиной видеороликов с “инструкциями”, которые, по его словам, он извлек из "темной паутины", демонстрирующих эти мошенничества в действии. Он объяснил, что преступники часто продают информацию о том, как создавать эти глубокие подделки, другим мошенникам.

“Я внимательно слежу за преступными сетями и появляющимися тактиками. Мы буквально отслеживаем социальные сети и темную паутину и проникаем в преступные группировки”, - добавил он. “Это становится пугающим. Например, фильтры могут быть применены к масштабированию, чтобы изменить чей-то голос и внешний вид. Преступник, который, например, захватывает всего несколько секунд аудиозаписи из ваших [лент в социальных сетях], может клонировать ваш голос и интонацию”.

“Мы все уязвимы, но наиболее уязвимыми среди нас являются наши родители, бабушки и дедушки, - говорит Тальков. - 99 из 100 человек не смогли обнаружить поддельное видео или голосовой клон. Но наши родители, бабушки и дедушки, категорически, менее знакомы с этой технологией. Они никогда бы не заподозрили, что голос по телефону, который звучит точь-в-точь как крик их ребенка о помощи во время похищения, может быть полностью искусственным”.