Как ИИ формирует мировоззрение: исследование культурной гомогенизации

Согласно исследованию учёных из Университета Южной Калифорнии, крупные языковые модели (LLM), такие как ChatGPT, Claude и Gemini, могут оказывать влияние не только на стиль письма, но и на формирование мировоззрения пользователей.

Авторы работы, возглавляемые докторантом Ялдой Дариани, обнаружили, что ИИ не просто отражает существующую культуру, а активно её формирует, определяя, что считается вежливым, понятным и «хорошим» ответом.

Анализируя многочисленные исследования в области психологии, компьютерных наук и лингвистики, учёные выявили постоянную закономерность: модели часто повторяют узкий набор ценностей, характерный для западных, высокодоходных, образованных и преимущественно мужских сообществ (англ. WHELM). Это отражается в выборе вопросов морали, где ИИ отдает предпочтение индивидуальной свободе и справедливости, а традиционным, коллективным ценностям уделяет меньше внимания.

Кроме того, такие системы влияют на коммуникативные привычки: массовое использование ИИ для написания сообщений может привести к тому, что разнообразие стилей и выражений начнёт стираться. При запросах на других языках модели часто приводят примеры, связанные с американской или европейской культурой, что усиливает культурный дисбаланс.

Учёные предупреждают о возникновении замкнутого цикла: чем больше людей полагаются на такие системы, тем больше их ответы становятся частью обучающих наборов для новых моделей, что усиливает существующее смещение.

Авторы предлагают трехэтапный подход к решению проблемы. Первым шагом является расширение обучающих данных за счёт материалов разных языков, регионов и культурных традиций. На этапах доработки и оценки моделей рекомендуется привлекать экспертов из психологии, антропологии, лингвистики и представителей разнообразных культурных сообществ, а также использовать множественные критерии оценки, а не единые западные стандарты.

Таким образом, при правильном исправлении датасетов и методик оценки можно сохранить широкий спектр человеческих перспектив и предотвратить исчезновение уникальных языков, традиций и способов мышления.