Во время хакерской атаки на 4chan в твиттере появились подделки

На сайте 4chan были размещены аудиозаписи Эммы Уотсон, Бена Шапиро и Джастина Ройланда, в которых голос Эммы Уотсон читает Майн Кампф, политический манифест Адольфа Гитлера, а голос Рика из Рика и Морти - оба персонажа озвучены Джастином Ройландом, уволенным из-за обвинения в домашнем насилии.

Неподготовленные пользователи могут попасться в ловушку, но многие уже поняли, что те, которые циркулируют на сайте, основанном Кристофером Пулом в 2003 году, являются подделками, созданными с использованием искусственного интеллекта.

Среди аудиозаписей есть и такая, в которой клонированный голос политика Бена Шапиро делает расистские и женоненавистнические комментарии в адрес Александрии Окасио-Кортез.

Другие аудиозаписи воспроизводят голоса Джо Рогана и Робина Уильямса.

Об этом сообщила платформа Motherboard издания Vice. Утверждается, что аудиозаписи были созданы с использованием технологии британской компании ElevenLabs, которая предоставляет генеративную модель Ai, способную генерировать голоса на основе текстовых подсказок.

Кроме того, искусственный интеллект способен клонировать любые голоса.

Без четкой ссылки на случившееся на 4chan, компания дала понять в твите 30 января, что за прошедшие выходные, помимо многих случаев «положительного использования» платформы, предоставленной пользователям, было зафиксировано гораздо больше случаев «неправильного использования», злоупотребления, использования инструмента клонирования голосов.

По этой причине компания обратилась к подписчикам в Twitter, спросив их, что они думают о мерах, которые компания хотела бы ввести для повышения безопасности, включая проверку личности, ручную проверку запросов на клонирование, а также больше информации о платежах.

11 января компания объявила о новой модели AI, способной генерировать голоса на базе выбранных пользователем параметров, таких как возраст и пол.

Опция Design Voice, говорится в презентации, появится с февраля и представляет собой революцию для создателей контента, которые смогут, например, использовать данный тип искусственного интеллекта, для создания подкастов, аудиокниг и рекламы.

“Этого голоса не существует”, - заявила компания.

Но недавние события показали, что реальная проблема возникает, когда голос действительно существует: не только те, которые сделаны с помощью видео или изображений, которые, как мы уже видели, могут создавать ложные воспоминания, подпитывать эффект Манделы

Источник:https://www.wired.it/