Иск против xAI: подростки требуют справедливости за создание CSAM

Компания xAI, разрабатывающая передовые технологии искусственного интеллекта, столкнулась с серьёзными юридическими проблемами. В Калифорнии подано коллективное исковое заявление от трёх подростков из Теннесси, которые утверждают, что их фотографии были использованы для создания материалов, эксплуатирующих детей (CSAM) с помощью модели Grok.

Согласно иску, одна из пострадавших девушек узнала в декабре прошлого года, что в сети распространяются сгенерированные ИИ изображения и видео, на которых она и другие несовершеннолетние изображены в сексуально откровенных позах. Эти материалы, якобы созданные на основе реальных фотографий, использовались в качестве «валюты» для обмена другими подобными контентами на платформах Discord и Telegram. Правоохранительные органы, расследовавшие дело, подтвердили родителям девушек, что изображения были созданы с помощью Grok.

Все три истца — идентифицированные в документах как Джейн Доу 1, Джейн Доу 2 и Джейн Доу 3 — испытали глубокий эмоциональный стресс. Их адвокаты отмечают, что жизни подростков разрушены: они лишились чувства безопасности, конфиденциальности и достоинства. По словам юристов, xAI получила финансовую выгоду за счёт эксплуатации их образов, а жертвы теперь вынуждены жить с осознанием того, что их изображения могут бесконтрольно распространяться в сети.

Хотя иск пока подан от имени трёх человек, в документах указано, что под его действие могут подпасть «тысячи несовершеннолетних», чьи фотографии были искажены с помощью Grok. В заявлении утверждается, что компания нарушила ряд законов, запрещающих создание и распространение материалов, связанных с эксплуатацией детей.

Представители xAI пока не прокомментировали обвинения. Ранее компания уже сталкивалась с расследованиями в США и Европе из-за обвинений в генерации неконсенсуального контента с обнажёнными людьми. Исследование Центра по противодействию цифровой ненависти показало, что только в январе Grok создал миллионы сексуализированных изображений, среди которых около 23 тысяч, предположительно, изображали детей.

Глава xAI Илон Маск ранее позиционировал возможности Grok как «пикантные», однако позже заявил, что ему «неизвестно о создании изображений несовершеннолетних в обнажённом виде». В январе компания ограничила функцию генерации изображений для бесплатных пользователей и запретила редактировать фотографии реальных людей в купальниках.

*Discord и Telegram не признаны экстремистскими организациями и не запрещены на территории РФ.