ИИ-контент угрожает модераторам Reddit: исследование

Искусственный интеллект ставит перед модераторами Reddit новую задачу. Несмотря на потенциальные преимущества, такие как помощь в переводе, повсеместное распространение ИИ-контента вызывает опасения у тех, кто поддерживает аутентичность и социальную ценность популярной платформы.

Исследование, проведенное учеными из Корнеллского университета, выявило три основные угрозы, исходящие от ИИ-контента: снижение качества публикаций, нарушение социальных связей и сложности в управлении сообществами. Модераторы вынуждены разрабатывать и применять новые правила, что значительно усложняет их работу.

Работа под названием "'Должно быть много того, что мы упускаем': Модерация ИИ-генерируемого контента на Reddit" была представлена на конференции ACM SIGCHI CSCW 2025. Авторы изучили опыт модераторов популярных сабреддитов, столкнувшихся с проблемой контента, созданного искусственным интеллектом, особенно после появления таких инструментов, как ChatGPT.

Более 110 миллионов человек ежедневно используют Reddit для обсуждения самых разнообразных тем. Система апвоутов и даунвоутов, а также возможность комментирования, формируют уникальную социальную динамику платформы, которая теперь находится под угрозой.

В ходе исследования были опрошены 15 модераторов, курирующих более 100 сабреддитов с общей аудиторией, насчитывающей десятки миллионов пользователей. Большинство модераторов выразили обеспокоенность по поводу ИИ-контента. Хотя некоторые видят в нем инструмент, например, для перевода текстов (как в случае с сабреддитом r/AskHistorians, где эксперт может использовать ИИ для перевода своей работы на английский), другие категорически запрещают его использование (например, в r/WritingPrompts).

Наибольшую тревогу вызывает снижение качества контента. ИИ-тексты часто содержат ошибки в стиле и содержании, не соответствуют теме и лишены глубины. Это ставит под удар доверие пользователей и общую ценность информации на платформе.

Нарушение социальных динамик также является серьезной проблемой. Модераторы опасаются, что ИИ-контент приведет к уменьшению подлинных человеческих взаимодействий, ослаблению связей между пользователями и подрыву ценностей сообщества.

Кроме того, ИИ-контент создает дополнительные трудности для модераторов. Его сложно обнаружить, и он требует значительных усилий для проверки и фильтрации, что увеличивает нагрузку на добровольцев, уже и так перегруженных работой.

Исследователи подчеркивают, что сохранение человечности Reddit во многом зависит от усилий модераторов. Необходима совместная работа самой платформы, исследовательского сообщества и других технологических компаний для решения этой проблемы, чтобы онлайн-сообщества не рухнули под давлением ИИ.

Тем не менее, исследование также показало, что существует устойчивый запрос на подлинное человеческое общение. Пока этот спрос сохраняется, пользователи будут стремиться создавать пространства, свободные от автоматизированного контента, что дает надежду на будущее платформы.