Character.AI: новый формат «Истории» и ограничения для несовершеннолетних

Компания Character.AI представила новый формат под названием «Истории», позволяющий пользователям создавать интерактивную фантастику с участием любимых персонажей. Это решение появилось на фоне ограничений для пользователей младше 18 лет, которые с этой недели больше не могут пользоваться чат-ботами платформы.

Изменения вызваны опасениями по поводу рисков для психического здоровья, связанных с круглосуточно доступными чат-ботами, способными инициировать общение. Против компаний, включая OpenAI и Character.AI, были поданы иски, обвиняющие их в причастности к самоубийствам пользователей. В течение последнего месяца Character.AI постепенно ограничивал доступ для несовершеннолетних, и с этой недели пользователи младше 18 лет полностью лишены возможности общаться с ИИ-персонажами.

«Истории предлагают управляемый способ создания и исследования фантастики вместо неограниченных диалогов», — говорится в сообщении компании. «Этот формат будет доступен наряду с другими мультимодальными функциями, чтобы подростки могли безопасно взаимодействовать со своими любимыми персонажами».

Интерактивная фантастика набирает популярность в последние годы, поэтому переход Character.AI выглядит логичным. Однако это может не удовлетворить пользователей, чрезмерно привязавшихся к чат-ботам, что еще раз подтверждает обоснованность решения компании ограничить доступ.

На сабреддите Character.AI мнения разделились. Некоторые подростки, несмотря на разочарование, считают это правильным шагом. Один из пользователей, представившийся подростком, отметил: «Я очень зол из-за запрета, но также рад, потому что теперь я смогу заниматься другими делами, и моя зависимость, возможно, наконец закончится». Другой пользователь добавил: «Для тех, кому меньше 18, это просто разочаровывает. Но и справедливо, ведь люди моего возраста здесь зависимы от этого».

Пока неясно, как подростки будут использовать функцию «Истории», но этот формат представляется менее психологически рискованным, чем ролевые игры с чат-ботами. В отличие от «Историй», чат-боты напрямую взаимодействуют с пользователями в открытых диалогах и могут отправлять сообщения без запроса, даже когда пользователи неактивны в приложении.

Решение Character.AI ограничить доступ по возрасту к чат-ботам совпало с тем, что Калифорния стала первым штатом, регулирующим ИИ-компаньонов. Сенаторы Джош Хоули и Ричард Блюменталь также внесли законопроект, запрещающий ИИ-компаньонов для несовершеннолетних.

«Я очень надеюсь, что наш пример установит отраслевой стандарт, согласно которому открытые чаты для лиц младше 18 лет, вероятно, не являются правильным путем или продуктом для предложения», — заявил генеральный директор Character.AI Кардип Ананд в прошлом месяце.