Character.AI запретит детям до 18 лет общаться со своими чат-ботами
Стартап в области искусственного интеллекта Character.AI запретит детям общаться с чат-ботами на своей платформе после растущего давления со стороны законодателей и множества судебных исков, в которых утверждается, что так называемые персонажи компании несут ответственность за причинение вреда детям.
Компания заявила в среду, что к 25 ноября запретит пользователям младше 18 лет вести открытые диалоги с её чат-ботами, которых пользователи могут создавать и с которыми могут общаться. Персонажи варьируются от цифровых копий популярных героев видеоигр до пародий на знаменитостей, таких как миллиардер Илон Маск. До тех пор, пока запрет не вступит в силу, компания ограничит время общения детей с её чат-ботами; сначала это время составит два часа в день, а затем будет сокращаться в течение следующих недель.
Такие сервисы, как Character.AI, который в США доступен пользователям с 13 лет, пользуются популярностью у подростков. Согласно опросу некоммерческой организации Common Sense Media, более 70% подростков пользовались услугами ИИ-компаньонов. Несовершеннолетним пользователям Character.AI уже предлагают более ограниченную версию сервиса, которая использует другую модель ИИ и включает такие ограничения, как ограничение типов персонажей, к которым они могут получить доступ, и типов разговоров, которые они могут вести.
В связи с новыми ограничениями компания планирует начать использовать новые технологии для улучшения проверки возраста пользователей, подталкивая их либо к взрослому, либо к несовершеннолетнему. Для этого стартап разработал новую модель и начнёт использовать программное обеспечение от стартапа Persona, специализирующегося на проверке личности, сообщила компания.
Character.AI, OpenAI и другие ведущие компании в области искусственного интеллекта всё чаще подвергаются пристальному вниманию на предмет возможного влияния их чат-ботов на психическое здоровье пользователей. С 2024 года родители подали ряд исков против компаний, предлагающих чат-ботов на основе искусственного интеллекта, утверждая, что широкое использование этой технологии привело к ряду негативных последствий для детей, включая манипулирование ими, изоляцию и даже самоубийство.
Стартап в области искусственного интеллекта Character.AI запретит детям общаться с чат-ботами на своей платформе после растущего давления со стороны законодателей и множества судебных исков, в которых утверждается, что так называемые персонажи компании несут ответственность за причинение вреда детям.
Компания заявила в среду, что к 25 ноября запретит пользователям младше 18 лет вести открытые диалоги с её чат-ботами, которых пользователи могут создавать и с которыми могут общаться. Персонажи варьируются от цифровых копий популярных героев видеоигр до пародий на знаменитостей, таких как миллиардер Илон Маск. До тех пор, пока запрет не вступит в силу, компания ограничит время общения детей с её чат-ботами; сначала это время составит два часа в день, а затем будет сокращаться в течение следующих недель.
Такие сервисы, как Character.AI, который в США доступен пользователям с 13 лет, пользуются популярностью у подростков. Согласно опросу некоммерческой организации Common Sense Media, более 70% подростков пользовались услугами ИИ-компаньонов. Несовершеннолетним пользователям Character.AI уже предлагают более ограниченную версию сервиса, которая использует другую модель ИИ и включает такие ограничения, как ограничение типов персонажей, к которым они могут получить доступ, и типов разговоров, которые они могут вести.
В связи с новыми ограничениями компания планирует начать использовать новые технологии для улучшения проверки возраста пользователей, подталкивая их либо к взрослому, либо к несовершеннолетнему. Для этого стартап разработал новую модель и начнёт использовать программное обеспечение от стартапа Persona, специализирующегося на проверке личности, сообщила компания.
Character.AI, OpenAI и другие ведущие компании в области искусственного интеллекта всё чаще подвергаются пристальному вниманию на предмет возможного влияния их чат-ботов на психическое здоровье пользователей. С 2024 года родители подали ряд исков против компаний, предлагающих чат-ботов на основе искусственного интеллекта, утверждая, что широкое использование этой технологии привело к ряду негативных последствий для детей, включая манипулирование ими, изоляцию и даже самоубийство.
Регуляторы также занимаются этим вопросом. Федеральная торговая комиссия начала расследование в отношении таких компаний, как Character.AI, OpenAI, Google (Alphabet Inc.) , Meta** Platforms Inc. , Snap Inc. и xAI Илона Маска, в связи с потенциальным вредом, который их чат-боты представляют для детей. Калифорния недавно подписала закон, ограничивающий действия чат-ботов по отношению к пользователям. Кроме того, во вторник Сенат США внес на рассмотрение новое двухпартийное законодательство , запрещающее компаниям, работающим в сфере искусственного интеллекта, предоставлять чат-ботов несовершеннолетним.
В интервью во вторник генеральный директор Character.AI Карандип Ананд заявил, что компания видит будущее развлечений на основе ИИ как нечто большее, чем просто общение в чате, и решение запретить несовершеннолетним использовать ключевые функции — это то, что компания в конечном итоге приняла бы в любом случае.
«Думаю, учитывая, как быстро развивается отрасль, мы, как отрасль, осознаём, что существуют определённо неизвестные аспекты возможностей долгосрочных открытых чатов», — сказал Ананд. «Мы не знаем, хороши они или плохи. В сообществе, как в исследовательском, так и в пользовательском, ведётся много споров по этому поводу».
Ананд сообщил, что компания продолжит предлагать детям, пользующимся сервисом, ряд функций, например, возможность создавать короткие видеоролики и истории с использованием искусственного интеллекта, включающие чат-ботов Character.AI.
«Пользователи приходят в Character, потому что им нужен творческий выход. Они хотят иметь возможность играть в ролевые игры», — сказал Ананд. «Если вы создали персонажей-вампиров или персонажей Хэллоуина, мы хотим продолжать с ними взаимодействовать, но мы считаем, что есть и другие способы сделать это, помимо чат-бота».
В прошлом году Google наняла нескольких ключевых членов руководящей команды Character.AI и лицензировала свою технологию большой языковой модели в рамках сделки, которая оценила стартап в 2,5 миллиарда долларов. После сделки Character.AI продолжила независимое существование.
https://www.bloomberg.com/news/articles/2025-10-29/character-ai-to-ban-children-under-18-from-talking-to-its-chatbots?srnd=phx-technology
Видя то, какой помойкой является т.н. "ИИ", абсолютно недопустимо, чтобы эта помойка воспитывала бы наших детей.
Уже наблюдаются тревожные последствия от засилья ИИ. Чего же ожидать в будущем?..
Согласна с Вами, у нас воспитанием детей очень часто занимается сотовый телефон.
Так кто вам мешает заниматься своими детьми?
Мы своих детей вырастили и телефона у них в руках вообще не было, а сейчас в садики в обязательном порядке приносят телефоны дети, и чуть чего вызывают полицию что воспитатель плохо себя ведет, а это не всегда так, наши дети были перед нашими глазами и мы их вообще далеко не отпускали, у нас рядом река, зато вижу как наша мадам воспитывает и замечания ей делать нельзя, а этот ребенок с телефоном постоянно.
Вы не поняли о чем у нас диалог, проводной телефон в доме был, потом появились игры в которые дети постоянно играли, но наши дети выросли без этой техники.
От интернета нужно детей отрывать.
Я сам с тех давних времен, с 1961 года. Сейчас нужен детям телефон, и не только для игры. Мы же давно древние и отсталые.
Слишком много дети стали смотреть, на ряд видео нужно вводить запреты.
А может вас просто взять и запретить???
Разрешение нужно с определенного возраста, а сейчас они торчат в интернете и общаются не с людьми а с ИИ, все нужно ограничивать и время в интернете тоже.
Мы вырастили своих детей и запрет на игры был.
Сократить надо конечно.
Достали уже с этими запретами. Я думаю нужно запретить запретильщиков.
Интернет детям нужно ограничивать, у нас во дворе всех детей телефоны воспитывают.
Это потому-что родители не хотят. Но тогда пойдут они на улице у более взрослых воспитываться, и опыт набирать. Такое было тогда, давно при СССР.
Постоянно занималась воспитанием сына, мы книги читали, а сейчас даже в садик с дорогими телефонами ходят.
Это вы, а нынешние родители не желают этого делать. Да и тогда не у всех всё было хорошо. Вот меня к примеру воспитала улица. Но зато мы были настоящими на войне 80-ых, так-как не росли у мамки под юбкой.
У нас первый подарок сыну была книга, и книга хорошая, он сам учился от любопытства читать.
Так тогда видимо кроме проводных телефонов ничего не было. 🙂
У нас он был и игры появились, через телевизор играть, у нас этих игр не было.