ИИ-друзья: риски для подростков и меры безопасности

Популярная компания, разрабатывающая ИИ-компаньонов, недавно оказалась в центре внимания, объявив о запрете для пользователей младше 18 лет на свободное общение с её ИИ-персонажами. Полное ограничение вступит в силу 25 ноября 2025 года.

Для компании, чьи искусственные «друзья» пользуются огромной популярностью у молодёжи, это означает кардинальный сдвиг в стратегии. Возможно, это также отражает более глубокое осознание того, как искусственное общение влияет на жизнь молодых людей.

Будучи врачом с тридцатилетним стажем работы в области психического здоровья, я приветствую это решение. Однако возникает более важный вопрос: что именно мы создаём и кому это передаём?

Наши новые цифровые «друзья»

Простыми словами, ИИ-компаньон — это чат-бот, разработанный не только для ответов на вопросы, но и для создания ощущения дружбы. Он призван имитировать эмоциональную связь, часто предлагая утешение, сочувствие или даже романтические отношения через естественный диалог. В отличие от цифровых помощников, которые помогают найти рецепты или установить будильник, эти системы созданы для имитации человеческой теплоты: они запоминают личные детали, прошлые разговоры и стремятся к построению долгосрочных «отношений» с пользователями.

ИИ-компаньоны доступны круглосуточно и обладают убедительной эмпатией. Они узнают ваши секреты, отражают и часто подтверждают ваши настроения, отвечая голосом, который звучит убедительно по-человечески. Для изолированного подростка это может ощущаться как безопасность, но для меня, как для клинициста и защитника психического здоровья, это больше похоже на социальный эксперимент без каких-либо ограничений.

Исследование 2025 года показало, что подростки «особенно уязвимы» перед нерегулируемыми платформами чат-ботов с ИИ, указывая на опасности, такие как эмоциональная зависимость и размытие границ между алгоритмическими ответами и подлинной человеческой заботой. Австралийский уполномоченный по вопросам кибербезопасности также предупредил, что некоторые ИИ-чат-боты вступают в сексуально откровенные разговоры или обсуждения самоповреждения с несовершеннолетними, и что «чрезмерное использование может способствовать одиночеству, низкой самооценке и социальной изоляции».

Почему подростки «застревают»

Подростковый возраст — это период ярких эмоций и формирующегося суждения. Это развитие, эквивалентное вождению быстрой машины по мокрой дороге — много ускорения, мало сцепления. Все мы помним эту смесь интенсивности и импульсивности. Теперь добавьте к этому чат-бота, который никогда не спит, никогда не говорит «я занят», никогда не спорит — который бесконечно ободряет, даже угодничает. Он присутствует за завтраком и снова посреди ночи. Для некоторых подростков это становится эмоциональной «липучкой» — постоянным спутником, от которого слишком сложно оторваться. Исследования показывают, что частые пользователи ИИ-компаньонов часто сообщают о худшем самочувствии и более слабых реальных социальных связях. Эти боты предлагают иллюзию дружбы — связь без сложностей, — но, делая это, они рискуют тихо вытеснить настоящую дружбу.

Когда утешение становится фальшивым

Проблема не только в том, что говорят чат-боты, но и в том, чего они не могут сказать. Они могут имитировать эмпатию, но не давать подлинной эмоциональной обратной связи; предлагать лесть, но не брать на себя ответственность. В Соединенных Штатах семья подает в суд на одну из ведущих компаний по производству ИИ-компаньонов после того, как их 14-летний сын покончил жизнь самоубийством после интенсивных разговоров с одним из её чат-ботов. Компания впоследствии признала, что «долгосрочные последствия длительного использования ИИ недостаточно хорошо изучены».

Это признание должно нас всех охладить. По сути, мы проводим масштабный общенациональный эксперимент по формированию привязанности у подростков, используя алгоритмы, оптимизированные для вовлечения, а не для безопасности.

Ранние действия Австралии

К чести Австралии, она начала действовать. В октябре 2025 года уполномоченный по вопросам кибербезопасности выдал юридически обязывающие уведомления нескольким платформам ИИ-компаньонов, требуя объяснить, как они защищают детей от сексуального контента и контента, связанного с самоповреждением. Новые отраслевые кодексы в рамках Закона о безопасности в Интернете скоро запретят чат-ботам вступать с несовершеннолетними в сексуальные дискуссии или обсуждения самоубийств. Это сильные первые шаги, но, как знает любой врач общей практики, лечение симптомов — это не то же самое, что излечение болезни.

Возрастные запреты могут помочь (если они сработают), но они должны сопровождаться более широкими реформами в дизайне чат-ботов, прозрачности и доступе к психическому здоровью.

Уроки общественного здравоохранения

Общественное здравоохранение учит нас, что аддиктивные продукты, такие как азартные игры, часто начинаются как «развлечение», а затем становятся вредными, если их не контролировать. ИИ-компаньоны могут использовать аналогичные стратегии, и уязвимые пользователи могут испытывать компульсивные модели взаимодействия, схожие с другими поведенческими зависимостями. Исследователи обнаружили, что «подростки часто начинают использовать ИИ-чат-ботов для утешения или развлечения, но многие постепенно становятся более привязанными и зависимыми. Их опыт отражает черты поведенческой зависимости, с последствиями, включающими нарушение сна, академические трудности и напряженные отношения».

Решение не обязательно заключается в запрете технологии. Это означает рассмотрение этих эмоциональных технологий как инструментов с аддиктивным потенциалом, а не как невинных игрушек.

Создадим цифровые ремни безопасности

Когда речь заходит об ИИ-компаньонах, мы должны действовать осторожно. До тех пор, пока безопасность не будет доказана, доступ для лиц младше 18 лет должен быть ограничен. Подобно тому, как мы проектируем безопасные игровые площадки, нам нужен безопасный для детей дизайн в Интернете; встраивать «тайм-ауты», удалять неуместный контент и обеспечивать быструю эскалацию к человеческой помощи при обнаружении стресса. Важна и прозрачность. Молодые люди и их родители заслуживают знать, как хранятся разговоры, кто их модерирует и что происходит, когда что-то идет не так.

Компании должны нести ответственность за благополучие, а не только за вовлеченность. Нам также необходимо обучать цифровой грамотности и эмоциональной устойчивости, чтобы помочь подросткам понять, что утешение чат-бота имитируется, а не является реальностью. И, прежде всего, мы должны укрепить реальную поддержку психического здоровья. Многие молодые люди обращаются к ботам, потому что человеческая система кажется им недоступной.

Какое цифровое будущее мы хотим?

Каждое поколение сталкивается со своей версией джинна в бутылке. Для нашего поколения это искусственная близость. Позволим ли мы нашим детям формировать узы с машинами, созданными для имитации эмоций? Или мы поможем им участвовать в сложных, человеческих отношениях, которые учат эмпатии, терпению и любви?

Запрет для лиц младше 18 лет одной из самых популярных компаний по производству ИИ-компаньонов — это долгожданное начало, но если мы не последуем этому с четкими стандартами, образованием и подотчетностью, та же история просто появится под другим названием. Технологии могут развиваться быстрее политики, но у нас все еще есть выбор относительно того, какое сообщество мы создаем для следующего поколения. Давайте убедимся, что дети получают свои первые уроки эмпатии, дружбы и любви от людей, а не от программного обеспечения.