Character.AI объявила о запуске «Stories» («Истории») — нового формата, позволяющего пользователям создавать интерактивную фантастику с участием любимых персонажей. Эта функция становится альтернативой фирменным чат-ботам компании, доступ к которым для пользователей младше 18 лет на этой неделе был окончательно закрыт.
Изменение связано с растущими опасениями по поводу рисков для психического здоровья, связанных с ИИ-чат-ботами, которые доступны 24/7 и могут инициировать разговоры с пользователями. Ранее против таких компаний, как OpenAI и Character.AI, были поданы иски, обвиняющие их в причастности к случаям самоубийств среди пользователей. В последний месяц Character.AI постепенно ограничивала доступ для несовершеннолетних, и с этого вторника подростки больше не могут общаться с её ИИ-персонажами вовсе.
«Stories — это структурированный способ создавать и исследовать фантастику, в отличие от свободного чата», — говорится в блоге компании. «Функция будет доступна наряду с другими мультимодальными возможностями, чтобы подростки могли продолжать взаимодействие с любимыми персонажами в условиях, где в первую очередь обеспечивается безопасность».
Интерактивная фантастика пережила всплеск популярности за последние несколько лет, поэтому переход Character.AI выглядит логичным. Однако этого шага может быть недостаточно, чтобы удовлетворить пользователей, которые уже слишком привязались к чат-ботам, — что лишний раз подтверждает оправданность решения Character.AI ограничить доступ к ним.
На Reddit-сообществе Character.AI отзывы неоднозначны. По комментариям видно, что некоторые подростки, несмотря на разочарование, считают это правильным шагом.
«Я так злюсь из-за бана, но в то же время рад, потому что теперь смогу заняться чем-то другим и, возможно, наконец избавлюсь от этой зависимости», — написал один из пользователей, заявивший, что он подросток.
Другой отметил: «Я младше 18, и мне просто обидно, но, по сути, решение верное, потому что среди моих ровесников это вызывает настоящую зависимость».
Пока рано говорить, как именно подростки будут использовать функцию Stories, но этот формат с психологической точки зрения считается менее сомнительным, чем ролевые игры с чат-ботами. В отличие от Stories, чат-боты ведут с пользователями открытые диалоги и могут отправлять сообщения даже без запроса со стороны пользователя.
Решение Character.AI ввести возрастные ограничения на общение с чат-ботами совпало с тем, что Калифорния недавно стала первым штатом, который ввёл регулирование ИИ-компаньонов. Тем временем сенаторы Джош Хоули (республиканец, Миссури) и Ричард Блюменталь (демократ, Коннектикут) внесли федеральный законопроект, полностью запрещающий ИИ-компаньонов для несовершеннолетних.
«Я очень надеюсь, что наш пример задаст стандарт отрасли: для лиц младше 18 лет открытый чат, скорее всего, не тот продукт, который стоит предлагать», — заявил генеральный директор Character.AI Карандип Ананд в интервью в прошлом месяце.
Источник: TechCrunch
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.
Социальные сети автора:
Для безопасности подростков — истории проще контролировать, чем полностью свободные боты. Чтобы лучше удерживать внимание — формат похож на визуальные новеллы или интерактивное кино и это отлично.
У них очень спорная возрастная проверка. «Аge-assurance» — это ведь просто алгоритм, который оценивает поведение пользователя в системе. Этот алгоритм может ошибаться, он может и взрослого человека принять за подростка. И тогда взрослому придётся выгладывать свои селфи с копией документов, а вот это уже может быть опасным, с точки зрения нарушения конфиденциальности.
Такой формат позволяет создавать более живые и сюжетные опыты, что, безусловно, привлекает молодую аудиторию, ищущую развлечения и возможность проявить свою креативность. Особенно важно, что «Истории» могут развиваться в зависимости от выбора пользователя, что делает каждый опыт уникальным и персонализированным.
Лично мне нравится, как они делают ИИ более увлекательным и безопасным вместо бесконечных разговоров теперь можно погружаться в нарративы, где персонажи развиваются, а ты влияешь на сюжет. Это как интерактивная книга с ИИ, помогает развивать креативность и воображение, плюс меньше риска зависания в чатах.
Интересное направление для Character.AI — формат «Историй» действительно может оказаться гораздо привлекательнее для подростков, чем обычные чат-боты. Это сочетает интерактивность, игру и повествование, что делает общение с ИИ более естественным и захватывающим. Похоже, компания пытается уйти от привычного формата и создать безопасную, контролируемую среду, где подростки смогут творить и экспериментировать. Будет интересно посмотреть, как это повлияет на популярность платформы.