У меня вопрос по поводу правового регулирования эротического и порнографического контента

349₽ VIP

1. Считается ли эротический контент, созданный искусственным интеллектом без участия реальных людей, порнографией с точки зрения законодательства РФ?

Российское законодательство пока не содержит специальных норм, прямо регулирующих искусственный интеллект и генерацию изображений ИИ. Однако порнографический контент, даже созданный искусственно, может рассматриваться как порнография, если он содержит сцены сексуального характера. При этом ключевым моментом является отсутствие реальных лиц — если изображения полностью искусственные и не содержат реальных лиц или образов конкретных людей, это снижает риски, но не исключает их полностью.

Особое внимание уделяется детской порнографии — создание и распространение изображений сексуального характера с участием несовершеннолетних (в том числе сгенерированных ИИ) строго запрещено и карается уголовно по статье 242.1 УК РФ. Даже если изображения полностью искусственные, но создают впечатление участия несовершеннолетних, это считается преступлением.

2. Является ли наличие эротических или сексуальных сцен на сгенерированных изображениях (без реальных лиц) нарушением закона?

Если изображения содержат эротический или сексуальный контент, но при этом не изображают реальных людей и не нарушают запрет на детскую порнографию, прямого запрета на их создание в российском законодательстве нет. Однако публичное распространение порнографического контента регулируется законом, и его распространение без ограничений может быть запрещено. Для личного использования и ограниченного доступа (например, через верификацию 18+) риски снижаются.

3. Какие меры нужно предусмотреть на платформе для минимизации юридических рисков?

Строгая проверка возраста 18+ — чтобы доступ к эротическому контенту имели только совершеннолетние пользователи.

Разделение контента по категориям — чёткое разграничение разделов с эстетическим и контентом 18+.

Фильтрация и модерация — автоматические и ручные фильтры для исключения запрещенного контента, особенно детской порнографии.

Пользовательское соглашение — с четким описанием правил использования, запретом на распространение запрещенного контента и ответственностью пользователей.

Логирование действий пользователей - для возможности расследования в случае нарушений.

Ограничение публичного доступа — контент 18+ должен быть доступен только после верификации и не должен быть доступен публично.

Обращение в правоохранительные органы при обнаружении запрещенного контента — для демонстрации добросовестности владельца платформы.

4. Могут ли быть претензии к владельцу платформы, если пользователь самостоятельно распространит полученное изображение?

Владелец платформы может нести ответственность, если он не принял достаточных мер по ограничению доступа и контролю за распространением запрещенного контента. При наличии строгой верификации, пользовательского соглашения и технических ограничений ответственность владельца снижается. Однако если пользователь незаконно распространяет материалы, владелец должен оперативно реагировать, удалять контент и сотрудничать с правоохранительными органами.

5. Есть ли риск блокировки ресурса Роскомнадзором? Что можно прописать в политике сайта для защиты?

Роскомнадзор может блокировать ресурсы, распространяющие запрещённый контент, в том числе порнографию без ограничений доступа и детскую порнографию. Чтобы минимизировать риск блокировки:

В политике сайта чётко указать, что доступ к контенту 18+ возможен только после строгой верификации.

Обязать пользователей не распространять контент вне платформы.

Описать меры по модерации и удалению запрещенного контента.

Указать, что платформа не допускает создания и распространения детской порнографии и других запрещённых материалов.

Включить контактные данные для оперативного реагирования на жалобы и обращения Роскомнадзора.

Итоговые рекомендации

Создавайте четкие разделы и обеспечьте строгую верификацию 18+.

Используйте фильтры и модерацию для исключения запрещенного контента.

Пропишите в пользовательском соглашении и политике конфиденциальности ответственность пользователей и меры по защите платформы.

Логируйте действия пользователей для возможного расследования.

Будьте готовы сотрудничать с правоохранительными органами и Роскомнадзором.

Не допускайте создания и распространения изображений с участием несовершеннолетних, даже если они сгенерированы ИИ.

Таким образом, при соблюдении этих мер платформа сможет минимизировать юридические риски и снизить вероятность претензий и блокировок.

Информация порнографического характера — информация, представляемая в виде натуралистических изображения или описания половых органов человека и (или) полового сношения либо сопоставимого с половым сношением действия сексуального характера, в том числе такого действия, совершаемого в отношении животного.

Если после проведённой экспертизы будет признан порнографией Ваш контент, то могут привлечь за распространение и демонстрацию по ч. 3 ст. 242 УК РФ

Если на сгенерированных изображениях присутствуют эротические или сексуальные сцены, это может быть расценено, как порнография.

Минимизация рисков:

- проверка возраста пользователей с помощью методов, как верификация по возрасту или использование других технологий, которые подтверждают, что пользователям исполнилось 18 лет;

- иметь пользовательское соглашение, в котором будут прописаны условия использования контента и ответственность пользователей за его распространение. Порядок действий пользователей может помочь в случае возникновения споров или претензий, так как предоставит доказательства того, что контент использовался в рамках установленных условий.

Если платформе принимает необходимые меры предосторожности и предупреждает пользователей о недопустимости распространения запрещённого контента, проблем в принципе быть не должно.

Роскомнадзор может провести в рамках своих компетенций проверку ресурса и вынести своё процессуальное решение.

- см. ст .2 ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию»

Роман, уважаемый!

Я обратил внимание, что вы не читаете отдельные разъяснения юристов, данные Вам в личных сообщениях

Сначала о верификации. Вы, от слова никогда, не добьетесь ни 100, ни 75, на 50, ни даже 10 процентной гарантии, что пользователь, регистрирующийся на Ваш ресурс, достиг 18+.

Заставить фотографироваться с паспортом Вы не сможете, так как это прямое распространение персональных данных, запрет на которое предусмотрен, в том числе и ст.152.1. Охрана изображения гражданина ГК РФ с последствиями по ч.2 этой статьи

При этом обратите внимание, что с 30 мая 2025 года в соответствии со ст.22 Уведомление об обработке персональных данных Федерального закона от 27.07.2006 №152-ФЗ «О персональных данных организации, ИП и самозанятые, собирающие и обрабатывающие персональные данные должны будут представлять уведомления о начале обработки персональных данных в Роскомнадзор, в котором на основании п.п.2 п.3 статьи предстоит указать

2) цель обработки персональных данных;

И что вы в этом случае должны указать?

Платформа планирует строго ограничивать доступ к контенту только для верифицированных пользователей 18+, не распространять контент публично, а использовать его только для личного пользования пользователей.

Вот тут Вы заблуждаетесь

Я не буду подробно комментировать являются ли сгенерированные нейросетью изображения обнаженных людей, позы и акты порнографией или нет, это уже прописали мои коллеги

Обратите только внимание на то, что ст.242. Незаконные изготовление и оборот порнографических материалов или предметов УК РФ не разделяет понятие "порнографическая продукция" на ее вид и способ изготовления. Поэтому Ваш контент будет однозначно оттрактован правоохранительными и контролирующими органами как порнография, изготовленная с целью распространения. Потому что вы технологически, как бы не пытались, не сможете ограничить его копирование или изготовление скриншотов, например

Есть ли риск блокировки ресурса Роскомнадзором?

Не просто риск, а будет прямая блокировка по основаниям п.7.1. ст. 15.3. Порядок ограничения доступа к информации, распространяемой с нарушением закона Федерального закона от 27.07.2006 N 149-ФЗ "Об информации, информационных технологиях и о защите информации"

7.1) информация, оскорбляющая человеческое достоинство и общественную нравственность, выражающая явное неуважение к обществу, содержащая изображение действий с признаками противоправных, в том числе насильственных, и распространяемая из хулиганских, корыстных или иных низменных побуждений;

И что можно прописать дополнительно в политике сайта для защиты от этого?

Извините Роман, но консультации юристов по способам обхода требований закона будет считаться пособничеством со всем вытекающими последствиями

Прочитайте внимательно то что написано.

Но выводы делать только вам

Удачи и наступающим Великим праздником Победы в ВОВ!

Здравствуйте уважаемый Роман !

По большому счету любые дипфейки, детская порнография, зоофилия, политические картинки и насилие запрещено и невозможно такое сгенерировать, а поэтому могут привлечь за распространение и демонстрацию к уголовной ответственности по ч. 3 ст. 242 УК РФ.

Всего доброго!

Здравствуйте!

1) Риск блокировки существует, если Роскомнадзор сочтет, что ваш ресурс нарушает законодательство РФ. Это может произойти, если на платформе будет обнаружен запрещенный контент (например, порнография с признаками несовершеннолетних), а также будут выявлены нарушения в обработке персональных данных пользователей.

2) Конечно могут к вам - как к владельцу платформы - быть претензии в случае, если пользователь самостоятельно распространит полученное изображение в интернете

3) 18+ плашку поставьте. По пользовательскому соглашению - Укажите, что пользователь несет полную ответственность за использование платформы и сгенерированного контента.

Запретите использование платформы для создания, хранения или распространения незаконного контента.

Укажите, что контент предназначен только для личного использования.

4) Эротические материалы должны маркироваться как 18+ и распространяться только в условиях, исключающих доступ несовершеннолетних (например, через верификацию возраста).

Если изображения будут признаны порнографическими, их распространение может быть запрещено (ст. 242 УК РФ).

Удачи!

Здравствуйте.

Законодательство РФ, в частности статья 242 УК РФ (Незаконное распространение порнографических материалов или предметов), оперирует понятием "порнографические материалы". Ключевым моментом является то, что закон прямо не определяет, является ли изображение, созданное искусственным интеллектом, "материалом" в том смысле, который вкладывается в уголовное право.

Отсутствие реальных людей в изображении является важным фактором. Статья 242 УК РФ, как правило, применяется к распространению изображений с участием реальных лиц. К тому же, пока нет четкой судебной практики по аналогичным случаям с изображениями, сгенерированными ИИ.

Административная ответственность (статья 6.17 КоАП РФ - Нарушение законодательства о защите детей от информации, причиняющей вред их здоровью и (или) развитию): Если доступ к таким изображениям не будет надежно ограничен для лиц, не достигших 18 лет, то велик риск привлечения к административной ответственности по этой статье. Штрафы здесь довольно существенные.

Уголовная ответственность (статья 242 УК РФ): Риск привлечения к уголовной ответственности хоть и мал, но существует, особенно если изображения будут носить откровенно порнографический характер и будут доступны широкому кругу лиц (даже если формально они не распространяются вами, а, например, "утекли" из-за взлома или халатности).

Перечень необходимых мер:

- Верификация 18+: Это ключевой момент.

- Пользовательское соглашение.

- Политика конфиденциальности: Должна соответствовать требованиям Федерального закона № 152-ФЗ "О персональных данных". Необходимо получить согласие пользователей на обработку их персональных данных.

- Предупреждения.

Могут ли при таких условиях ко мне как к владельцу платформы быть претензии в случае, если пользователь самостоятельно распространит полученное изображение в интернете?

Да, риски существуют, хоть и снижены. Основной аргумент в вашу защиту будет заключаться в том, что вы предприняли все разумные меры для предотвращения распространения контента за пределами платформы и что в пользовательском соглашении четко прописана ответственность пользователей за их действия.

риск блокировки Роскомнадзором существует. Чтобы минимизировать этот риск, необходимо:

- Соблюдать законодательство РФ: Это самое главное. Внимательно изучите и соблюдайте все законы, касающиеся интернета, персональных данных, порнографии, экстремизма и т.д.

- Реагировать на уведомления Роскомнадзора: Если вы получите уведомление от Роскомнадзора о нарушении законодательства, необходимо оперативно принять меры по устранению нарушения.

С уважением.

Согласно российскому законодательству, порнография определяется как "изображение, а также иные материалы, содержащие откровенные сцены сексуального характера". Важно отметить, что если изображения не содержат реальных людей и не являются откровенной порнографией, они могут не подпадать под уголовную ответственность. Тем не менее, наличие эротических сцен может вызвать вопросы о соответствии нормам морали и общественной нравственности.

Если на сгенерированных изображениях присутствуют эротические или сексуальные сцены, это может быть расценено как нарушение законодательства, если такие изображения будут признаны порнографическими. В частности, стоит учитывать:

Статья 242 Уголовного кодекса РФ: запрещает распространение порнографических материалов.

Статья 6.13 Кодекса об административных правонарушениях: за распространение порнографических материалов может быть наложен штраф.

3. Меры для минимизации юридических рисков

Верификация возраста:

Используйте механизмы верификации, такие как проверка документов (например, паспортов) через сторонние сервисы, которые соблюдают законодательство о защите персональных данных.

Убедитесь, что верификация производится в соответствии с Федеральным законом от 27.07.2006 № 152-ФЗ "О персональных данных".

Пользовательское соглашение:

Включите в соглашение положения о том, что платформа не несет ответственности за действия пользователей, включая распространение контента.

Укажите, что доступ к контенту 18+ разрешен только для верифицированных пользователей.

Логирование данных:

Введите систему логирования действий пользователей, чтобы отслеживать доступ к контенту и возможные нарушения.

Политика конфиденциальности:

Убедитесь, что политика конфиденциальности соответствует требованиям ст. 22 ФЗ "О персональных данных" и включает информацию о целях обработки данных.

1. Да, создание и распространение порнографии, даже если она выполнена искусственными средствами (нейросеть), считается незаконным в рамках действующего законодательства Российской Федерации. Согласно статье 242 Уголовного кодекса РФ («Незаконные изготовление и оборот порнографических материалов»), уголовная ответственность наступает независимо от способа изготовления материала (реальное лицо или искусственная генерация).

Что такое порнография? Определение дано в Постановлении Пленума Верховного Суда РФ от 16 мая 2017 г. № 17: «порнографические материалы представляют собой визуальную фиксацию половых органов и полового акта».

Однако важно отметить, что законодательство различает понятия «эротика» и «порнография». Эротическое искусство, которое носит художественный характер и соответствует определенным критериям культурной ценности, защищено Конституцией РФ (статья 29). Если изображения несут художественную ценность и выражают культурные смыслы, то юридически риски снижаются. Однако практика правоприменения показывает, что зачастую грань между этими двумя категориями весьма тонкая и решение принимается индивидуально судом.

2: Если изображения носят откровенно сексуальный характер и включают половые акты или детализируют интимные части тела, то да, такие изображения попадают под категорию порнографии и запрещены законом. Искусственность происхождения изображений не снимает ответственности.

При этом законодательство допускает возможность распространения подобного контента при соблюдении определенных условий:

- Только для совершеннолетних: Платформа должна убедиться, что доступ получают исключительно лица старше 18 лет.

- Отсутствие публичного распространения: Контент не должен свободно размещаться в открытом доступе интернета.

- Предупреждение о возрастных ограничениях: Наличие уведомления о возрастной маркировке перед предоставлением доступа к материалу.

Важно понимать, что риск признания контента порнографическим зависит от интерпретации контролирующих органов и судов. Необходимо разработать внутреннюю политику обработки контента и применять инструменты фильтрации, исключающие откровенную порнографию.

3: Чтобы минимизировать юридические риски и обеспечить безопасность своей деятельности, рекомендуем принять следующие меры:

Техническое обеспечение и проверка возраста:

- Использовать систему двойной аутентификации личности (например, паспортные данные + подтверждение СМС-кодом);

- Запрашивать фотографии документов для подтверждения возраста;

- Настроить фильтрацию контента на уровне технических решений, блокируя потенциально опасный контент автоматически.

Пользовательское соглашение и политика конфиденциальности:

- Четко обозначьте правила поведения на платформе, ограничения по использованию контента и права администрации на удаление нарушителей;

- Разместите уведомление о запрете публикации порнографического контента и мерах наказания за нарушение правил;

- Предложите пользователям согласовывать обработку персональных данных, необходимых для проверки возраста.

Логирование действий пользователей:

- Регулярно вести учет всех операций на платформе, фиксировать IP-адреса, даты и время доступа, запросы пользователей и создаваемые изображения;

- Хранить историю изменений контента и удаления подозрительных элементов.

1. Эротика никогда не считается порнографией, независимо от того, создана она с помощью ИИ, либо традиционными способами. Также порнография всегда считается таковой, независимо от способа создания и степени сходства с реальными людьми на изображениях или предметах.

Такой вывод следует из примечания к ст.242.1 УК РФ, в котором указано, что под материалами и предметами с порнографическими изображениями понимаются материалы и предметы, содержащие любое изображение или описание в сексуальных целях полностью или частично обнаженных половых органов, полового сношения или иных действий сексуального характера.

Не являются материалами и предметами с порнографическими изображениями материалы и предметы, содержащие изображение или описание половых органов если такие материалы и предметы имеют историческую, художественную или культурную ценность либо предназначены для использования в научных или медицинских целях либо в образовательной деятельности в установленном федеральным законом порядке.

2. По установившейся практике достаточно предупреждения в виде маркировки 18+ и текстового предупреждения, а также флажка на странице сайта для подтверждения соответствия пользователя возрастному ограничению.

3. Вы можете быть привлечены к уголовной ответственности за незаконное распространение порнографии, если материалы сайта не будут иметь художественной или научной ценности (см. примечание к статье 242.1 УК РФ), независимо от того, каким способом использовался распространяемый контент.

4.Риск блокировки ресурса имеется, если будут нарушены требования закона, указанные выше, в том числе в виде детской порнографии.