"Дополнительные меры предосторожности" появятся после ИИ-генератора, который заставлял голоса знаменитостей читать оскорбительные сообщения

Эмма Уотсон входит в число тех, чей голос использовался для создания поддельных клипов. Фото: Жак Витт / SIPA / Shutterstock

Интернету в целом не потребовалось много времени, чтобы начать экспериментировать с технологией, в том числе на печально известном анонимном сайте имиджбордов 4chan, где сгенерированные клипы включали актрису Гарри Поттера Эмму Уотсон, читающую отрывок из "Майн Кампф" Адольфа Гитлера.

Другие файлы, найденные Sky News, включали в себя то, что звучит как объявление Джо Байдена о том, что американские войска войдут в Украину, и болтун Дэвид Аттенборо, хвастающийся карьерой в "Морских котиках".

Жертвами стали кинорежиссер Джеймс Кэмерон, звезда Top Gun Том Круз и подкастер Джо Роган, а также клипы с вымышленными персонажами, которые часто читают оскорбительные, расистские или женоненавистнические сообщения.

В заявлении в Twitter ElevenLabs, основанная в прошлом году бывшим инженером Google Петром Дабковски и бывшим стратегом Palantir Мати Станишевски, запросила отзывы о том, как предотвратить злоупотребление своей технологией.

"Сумасшедшие выходные - спасибо всем за то, что опробовали нашу бета-платформу", - говорится в сообщении.

"Хотя мы видим, что наши технологии в подавляющем большинстве применяются с пользой, мы также видим растущее число случаев неправильного использования клонирования голоса. Мы хотим обратиться к сообществу Twitter за мыслями и отзывами! "

Компания заявила, что, хотя она может "отследить любой сгенерированный звук" для пользователя, который его сделал, она также хотела ввести "дополнительные меры предосторожности".

В нем предлагалось потребовать дополнительных проверок аккаунта, таких как запрос платежных реквизитов или идентификатора; проверка чьих-либо авторских прав на загружаемые клипы; или вообще отказаться от инструмента, чтобы вручную проверять каждый запрос на клонирование голоса.

Но по состоянию на утро вторника инструмент оставался в Сети в том же состоянии.

Веб-сайт компании предполагает, что ее технология однажды может быть использована для озвучивания статей, информационных бюллетеней, книг, учебных материалов, видеоигр и фильмов.