Инструмент клонирования голоса с ИИ использовали, чтобы заставить знаменитостей говорить «оскорбительные вещи»

Фирма ElevenLabs, создатель клонера голоса с искусственным интеллектом Prime Voice, в настоящее время находится под критикой, поскольку тролли наводнили социальные сети аудиофейками , в которых голоса знаменитостей делают расистские заявления и призывают к насилию с использованием этого инструмента.

Стартап, выпустивший ранее в этом месяце инструмент, позволяющий людям загружать записи любого разговора и использовать их для создания искусственного голоса, введет дополнительные «защиты» после злоупотреблений, говорится в сообщениях.

Интернет-тролли , обнаруженные на веб-сайте доски объявлений 4chan с изображениями , использовали указанный инструмент искусственного интеллекта, чтобы заставить известных личностей говорить «оскорбительные» вещи. Среди знаменитостей, чьи голоса были «глубоко подделаны», были Дэвид Аттенборо и звезда «Гарри Поттера» Эмма Уотсон.

Голос Аттенборо использовался для ругательств о его карьере в «Морских котиках», в то время как голос Уотсона использовался для чтения отрывков из книги «Майн кампф» , автобиографического манифеста лидера нацистской партии Адольфа Гитлера. В одном аудиопримере фальшивый голос Джо Байдена использовался для объявления о вторжении в Россию.

Другими известными людьми, чьи голоса были подделаны, были Джо Роган, Джеймс Кэмерон и Том Круз, а также ряд вымышленных персонажей, читающих расистские и женоненавистнические высказывания.

«Сумасшедшие выходные – спасибо всем, кто опробовал нашу бета-платформу. Хотя мы видим, что наша технология в подавляющем большинстве случаев применяется с пользой, мы также видим растущее число случаев неправильного использования клонирования голоса. Мы хотим обратиться к сообществу Твиттера за мыслями. и обратная связь!» Компания написала в Твиттере и ответила в той же теме: «Хотя мы можем отследить любой сгенерированный звук до пользователя, мы хотели бы решить эту проблему, внедрив дополнительные меры безопасности ».

Brighteon.TV

Текущий план действий фирмы включает дополнительные проверки учетной записи для обеспечения возможности клонирования голоса, например, информацию о платеже или даже полную проверку личности; проверка авторских прав на голос, предоставив образец с текстом подсказки; и вообще отказаться от голосовой лаборатории и вручную проверять каждый запрос на клонирование.

На данный момент инструмент все еще находится в том же состоянии, поскольку компания стремится предоставить людям доступ к «неотразимым, богатым и реалистичным голосам» для рассказывания историй. Несмотря на разногласия, некоторые описывают этот инструмент как «самую реалистичную платформу искусственного интеллекта для преобразования текста в голос ».

ElevenLabs была основана Мати Станишевски, бывшим стратегом по развертыванию Palantir, и Петром Дабковски, бывшим инженером по машинному обучению в Google. Эти двое также создали возможности клонирования голоса и дублирования для кино- и издательской индустрии. Они заявили, что получили финансирование в размере 1,6 миллиона фунтов стерлингов (1,93 миллиона долларов США).

Microsoft: инструменты клонирования голоса могут быть использованы киберпреступниками в мошеннических целях

Ранее в этом году на рынок была представлена ​​еще одна разработка в области искусственного интеллекта от крупной технологической компании Microsoft. Программа под названием VALL-E, предназначенная для синтеза текста в речь, может клонировать голос человека, говорящего всего три секунды.

По словам Майкла Кана из PCMag , команда исследователей технологического гиганта создала технологию, заставив систему прослушивать 60 000 часов аудиокниги на английском языке от более чем 7 000 разных говорящих, чтобы заставить ее воспроизводить речь, звучащую по-человечески. Этот образец в сотни раз больше, чем другие программы преобразования текста в речь.

По словам создателей, программа на базе искусственного интеллекта может манипулировать клонированным голосом, чтобы говорить все, что пожелаете, имитировать эмоции в голосе человека или настраивать различные стили речи. (По теме: Поклонники Google аплодируют своему полному порабощению, когда Google AI представляет почти идеальную технологию имитации человеческого голоса .)

«Поскольку VALL-E может синтезировать речь, сохраняющую личность говорящего, это может нести потенциальные риски при неправильном использовании модели, например, подделку голосовой идентификации или выдачу себя за конкретного говорящего», — пишут исследователи Microsoft в своей статье.

«Эта технология, хотя и впечатляющая, позволит киберпреступникам легко клонировать голоса людей в целях мошенничества и мошенничества с личными данными», — прокомментировал Кан, добавив, что на самом деле нетрудно представить, что та же самая технология подпитывает киберпреступность, когда даже изобретатель технологии признает потенциал угрозы.

Посетите FutureTech.news , чтобы узнать больше новостей о платформах на базе искусственного интеллекта.

Посмотрите видео ниже, в котором рассказывается о том, как система искусственного интеллекта ElevenLabs клонировала голос рейнджера здравоохранения Майка Адама .

Это видео взято с канала Health Ranger Report на сайте Brighteon.com .

Еще похожие истории:

Голосовые помощники Сири и Алекса создают ГРУБЫХ, АНТИСОЦИАЛЬНЫХ детей .

Google увольняет инженера за разоблачение «разумного» чат-бота с искусственным интеллектом .

«ИИ, собирающий глобальную информацию» ВЭФ, призван стереть идеи из Интернета .

Ветераны Google запустят дроны с «самым передовым искусственным интеллектом» в истории .

https://www.naturalnews.com/2023-02-03-voice-cloning-tool-celebrities-say-offensive-things.html