Известная правозащитница Алена Попова разместила призыв к администрации мессенджера Telegram и его основателю Павлу Дурову с просьбой сделать невозможной работу бота, который делает фотографии людей обнаженными с помощью технологии DeepFake. Как заявила она на своей странице в Facebook****, жертвы этого сервиса могут стать объектами травли, а существование таких «порно-ботов» нарушает правила Telegram.
«Пользователи могут взять любую фотографию своей жертвы — алгоритм распознает силуэт и обнажит тело. Да, это ненастоящее обнажение, но подобные фейковые фотографии выглядят как настоящие и могут нанести огромный ущерб своим жертвам. Конечно же, девушки не дают своего согласия на подобную обработку своих фотографий», — пояснила она.
Попова отмечает, что жалобы на бот в администрацию Telegram пока остались без ответа. «Это очень опасный сервис. Его жертвы могут стать объектом для травли, насмешек, преследования, насилия, мести и шантажа. Результат использования таких фотографий может стать катастрофическим для жизни многих девушек», — возмутилась она.
Источник: https://www.znak.com/2020-10-23/pavla_durova_prizyvayut_zapretit_dipfeyk_bot_v_telegram_razdevayuchiy_lyudey_na_foto ------------------------------------------------------------------------------------------------------------------------------------------------------------- Голая неправда: нейросети «раздевают» женщин
В Telegram обнаружены боты, удаляющие одежду с фотографий женщин. В мессенджере Telegram была обнаружена сеть ботов, использующих искусственный интеллект, чтобы удалять одежду с фотографий женщин. По данным ИБ-компании Sensity, с помощью этих инструментов было создано как минимум 100 тысяч фейковых «голых» снимков. При этом администратор бота не видит в этом проблемы, называя весь процесс обычным «развлечением».
Исследователи компании Sensity обнаружили в мессенджере Telegram «дипфейк-экосистему», состоящую из ботов, генерирующих «голые» фотографии женщин, сообщает The Verge. Пользователи этих ботов заливают в систему снимки своих знакомых девушек, а искусственный интеллект удаляет с них всю одежду, создавая таким образом фейковые изображения.
По данным Sensity на июль 2020 года, при помощи порнографического бота были обработаны свыше 100 тыс. фотографий женщин.
Сообщается, что среди них попадаются фото несовершеннолетних. При этом почти 70% пользователей, загружающих снимки в эту систему, проживают в России и соседних странах.
Бот «раздевает» людей бесплатно, выдавая результат с вотермаркой. Если же человек захочет ее убрать, то должен заплатить за эту услугу. Сообщается, что «стартовый тариф» включает в себя 100 фейковых обнаженных фото, которые можно получить в течение недели. Его стоимость составляет 100 рублей.
Программное обеспечение, которое лежит в основе этих ботов, называется DeepNude. О нем впервые стало известно летом прошлого года. Сообщается, что его создатель вскоре удалил сайт со своим творением, заявив о том, что «вероятность злоупотребления DeepNude слишком высока». Тем не менее, с тех пор была произведена обратная разработка этой технологии, и теперь вариации DeepNude можно найти по всему интернету.
По словам генерального директора Sensity Джорджио Патрини, именно общедоступность дипфейков стала причиной массового возникновения «раздевающих» ботов. При этом обычному пользователю не нужно быть программистом, чтобы использовать возможности, находящиеся в открытых репозиториях — бот все делает автоматически.
Портал «Би-би-си» связался с администратором одного из таких ботов, который заявил о том, что его не волнует этическая проблема использования этой технологии.
«Это просто развлечение без какого-либо насилия. Этим даже нельзя никого шантажировать, так как качество [обработки] оставляет желать лучшего», — сообщил администратор, пожелавший остаться анонимным.
Он добавил, что специальная команда поддержки отсматривает фотографии, которые загружаются в систему, и блокирует тех пользователей, которые используют снимки несовершеннолетних.
«Би-би-си» также сообщает о том, что порнографические боты распространены не только в Telegram, но и в социальной сети «ВКонтакте». Как сообщили «Газете.Ru» в пресс-службе платформы, компания осведомлена об этой проблеме и ведет с ней активную борьбу.
«ВКонтакте» выступает против такого контента и публикации ссылок на подобные ресурсы. Наша команда блокирует сообщества, которые распространяют таких ботов. Мы проведем дополнительную проверку и заблокируем сообщества, которые нарушают правила. Подобные чат-боты и сообщества никогда не продвигались через рекламные инструменты «ВКонтакте», — заявил представитель пресс-службы.
Термин «дипфейки», которым в настоящее время обозначают очень реалистичные, но при этом фейковые видеоролики или фотографии, появился два года назад благодаря пользователю с никнеймом DeepFakes.
Он решил использовать созданную в 2014 году технологию на базе генеративно-состязательных нейросетей (Generative adversarial network, или GAN), которая позволяет создавать образцы нового контента на базе больших массивов уже существующих файлов. Так, например, собрав фотографии той или иной знаменитости, искусственный интеллект может произвести на свет реалистичную модель лица звезды, тщательно сохранив все черты и даже мимику.
Согласно исследованию от декабря 2019 года, 96% дипфейков в интернете — это порнографические ролики.
https://www.gazeta.ru/tech/2020/10/21/13327465/pornobots.shtml
Доброго времени суток уважаемые читатели! После прочтения публикации дайте возможность глазам пол минуты отдохнуть от экрана и посмотреть как прекрасен мир вокруг. Рада буду также Вашей оценке : если поставите ЛАЙК 👍 (ДА) , комментарию и репосту в соцсети.
41.7к
