Алгоритмы LinkedIn: есть ли гендерная предвзятость?

Недавние изменения в алгоритмах LinkedIn вызвали бурное обсуждение среди пользователей, особенно женщин. Эксперимент #WearthePants, инициированный предпринимателями Синди Галлоп и Джейн Эванс, показал, что некоторые женщины, сменив пол в профиле на мужской, столкнулись с резким ростом вовлеченности и охвата своих публикаций. Это породило подозрения о существовании гендерной предвзятости в работе алгоритма.

Одна из участниц эксперимента, стратег продукта по имени Мишель, отметила, что при смене пола на мужской и имени на Майкл, ее публикации начали набирать примерно столько же показов, сколько и публикации ее мужа, несмотря на то, что у нее значительно больше подписчиков. Другие женщины, такие как основательница Мэрилинн Джойнер, также сообщили о значительном увеличении охвата после изменения пола в профиле. Джойнер, которая использует LinkedIn для продвижения своего бизнеса, выразила обеспокоенность и призвала LinkedIn взять на себя ответственность за возможную предвзятость.

LinkedIn, в свою очередь, отрицает использование демографических данных, таких как пол, возраст или раса, для определения видимости контента. Представители компании заявили, что их алгоритмы и системы ИИ не используют такую информацию в качестве сигналов. Они подчеркнули, что различия в охвате публикаций не обязательно свидетельствуют о несправедливом отношении или предвзятости.

Эксперты в области социальных алгоритмов сходятся во мнении, что явная дискриминация по признаку пола маловероятна, однако допускают наличие скрытых, неявных предубеждений. Брэндис Маршалл, консультант по этике данных, отметила, что алгоритмы представляют собой сложную систему, на которую влияют множество факторов, включая взаимодействие пользователя с контентом. Изменение пола в профиле – лишь один из таких «рычагов», и определение приоритетности контента – более сложная проблема, чем кажется на первый взгляд.

Эксперимент #WearthePants начался с предположения, что мужчины имеют преимущество в продвижении контента на платформе. Когда мужчины начали публиковать тот же контент, что и женщины, их охват оказался значительно выше. Это подтолкнуло других женщин принять участие в эксперименте.

Проблема усугубляется недостаточной прозрачностью работы алгоритмов, особенно в контексте использования больших языковых моделей (LLM). Исследователи отмечают, что LLM, обученные на контенте, созданном людьми, могут наследовать человеческие предубеждения, включая сексизм и расизм. Это может проявляться в предпочтении контента, написанного в стиле, традиционно ассоциируемом с мужчинами, который может восприниматься как более прямой и ценный, в то время как стиль, более характерный для женщин, может считаться «менее ценным».

LinkedIn утверждает, что проводит миллионы тестов для улучшения релевантности контента и обеспечения равных условий для создателей. Демографические данные, по их словам, используются только для таких тестов. Компания также заявляет о постоянной работе над снижением предвзятости в своих системах.

Однако, как отмечают эксперты, на результаты эксперимента могли повлиять и другие факторы. Участие в вирусном тренде, временное снижение активности в профиле с последующим возобновлением, а также изменения в стиле письма могут влиять на вовлеченность. Например, Мишель призналась, что при написании постов от имени «Майкла» она использовала более простой и прямой стиль, что могло способствовать увеличению охвата.

Наблюдатели также указывают на то, что алгоритмы могут учитывать не только контент, но и общую информацию из профиля пользователя, его профессиональный опыт и типы контента, с которым он взаимодействует. Это означает, что демографические данные могут опосредованно влиять на видимость публикаций.

Несмотря на заявления LinkedIn, многие пользователи, независимо от пола, выражают недовольство новым алгоритмом, отмечая снижение вовлеченности и охвата. Некоторые мужчины также сообщают об уменьшении показателей, в то время как другие видят рост, связывая это с более точным нацеливанием на конкретные аудитории. Эксперты, такие как Брэндис Маршалл, считают, что алгоритм может усиливать уже существующие сигналы, непреднамеренно отдавая предпочтение определенным типам контента или авторам.

LinkedIn отмечает, что рост пользовательской базы и активности на платформе привел к увеличению конкуренции за внимание в ленте. Наиболее успешными остаются публикации, связанные с профессиональными инсайтами, уроками карьерного роста, отраслевыми новостями и аналитикой, а также образовательный контент по вопросам бизнеса и экономики.

Главным желанием многих пользователей является прозрачность работы алгоритмов, однако компании, разрабатывающие подобные системы, как правило, держат свои секреты в строжайшей тайне, опасаясь злоупотреблений. Поэтому полная ясность в этом вопросе остается маловероятной.