Новая рекламная видеокампания, созданная искусственным интеллектом и набравшая миллионы просмотров в социальных сетях, может заставить многих родителей задуматься о том, какую информацию они публично публикуют о своих детях.
Видео Deutsche Telekom использует новейшие технологии искусственного интеллекта, чтобы фактически состарить 9-летнюю девочку, которую они называют Эллой, которую играет актер, чтобы проиллюстрировать, как цифровой след ребенка потенциально может быть использован не по назначению, чтобы навредить их жизни.
«Я знаю, что для вас эти фотографии — просто воспоминания, но для других они — данные», — говорит сгенерированная искусственным интеллектом Элла паре, играющей ее родителей в постановочном социальном эксперименте. «А для меня, может быть, начало ужасного будущего».
Родители Эллы в видео, которых также играют актеры, описываются как часто публикующие в Интернете сообщения о ее жизни, делящиеся беззаботными моментами, не подозревая о потенциальном вреде, который это может причинить ей в будущем.
Хотя видео является подделкой, некоторые эксперты говорят, что его предостережение вполне реально.
«После того, как изображение размещено в сети, может быть трудно контролировать, где оно окажется», — объяснила доктор Ребекка Портнофф, директор по науке о данных в Thorn, некоммерческой организации, которая борется с распространением сексуального насилия над детьми в Интернете, в интервью ABC. News.
Кампания документирует различные потенциальные опасности чрезмерного обмена данными ваших детей, от онлайн-издевательств до кражи личных данных и создания материалов о сексуальном насилии над детьми или CSAM.
«Злоумышленники используют различные технологии и сервисы для манипулирования контентом, чтобы изменить безобидные фотографии и видео, обычно из учетной записи ребенка в социальной сети или в открытом Интернете, чтобы сделать этот контент сексуальным», — добавил Портнофф.
Хотя эти опасности были задокументированы в прошлом, риски усугубляются растущим распространением и доступностью ИИ. В сочетании с общедоступными данными это дает преступникам больше контента для работы.
«Совместное использование» — это термин, который иногда используется для обозначения того, что родители делятся контентом о своих детях в Интернете. Это простой и доступный способ для родителей общаться друг с другом, объяснили эксперты из Boston Children's Digital Wellness Lab, которые изучили потенциальное влияние совместного использования.
Эти эксперты подчеркнули оценку банка Barclays , согласно которой к 2030 году 7,4 миллиона случаев мошенничества с идентификацией в год могут быть связаны с чрезмерным раскрытием родителями личной информации в Интернете.
Как показано в кампании Deutsche Telekom, генеративный ИИ позволяет создавать правдоподобные копии образа вашего ребенка от голоса до фигуры.
Кампания также подробно описывает, как алгоритмы искусственного интеллекта могут автоматически идентифицировать и собирать изображения детей, а затем использовать их для создания профилей детей, которые можно использовать в рекламных целях или даже для создания порнографического контента.
Такие эксперты, как Портнофф, говорят, что ИИ облегчает хищникам создание реалистичного материала из общедоступных изображений или создание совершенно нового материала.
В то же время такие организации, как Thorn, также разработали алгоритмы машинного обучения для создания инструментов, которые обнаруживают, удаляют и сообщают о CSAM.
«Поскольку мир социальных сетей продолжает развиваться, родители могут стремиться найти баланс между общением с друзьями и семьей и уважением к детям как к личностям, которым придется иметь дело с последствиями жизни в Интернете», — призвали эксперты Boston Children's Digital. Лаборатория здоровья.
Что касается того, как родители могут найти этот баланс, обмен фотографиями и контентом только в личных альбомах с семьей и друзьями, а не публично, — это один из способов поделиться, защищая конфиденциальность вашего ребенка и сводя к минимуму риски.
У Портноффа также есть несколько предложений о том, как семьи могут обучать детей безопасности в Интернете.
«Родители могут рано и часто говорить со своими детьми о безопасности в Интернете и способствовать созданию открытой и свободной от суждений среды дома. Они могут работать над тем, чтобы понять, какие приложения, социальные сети и онлайн-сервисы использует их ребенок, а также какие средства контроля конфиденциальности доступны, а затем использовать эти элементы управления конфиденциальностью», — сказала она. «Важно информировать детей о безопасности в Интернете, в том числе о том, почему важно избегать обмена личными данными и... о постоянстве того, что публикуется в Интернете».
Интересная статья