X добавляет опцию блокировки для генерации изображений Grok

Пользователи социальной сети X получили возможность блокировать генерацию модификаций загружаемых изображений с помощью чат-бота Grok от xAI. Ни X, ни xAI, обе принадлежащие Илону Маску компании, не сделали официального объявления об этой функции, которую пользователи начали замечать в меню загрузки изображений/видео в iOS-приложении в последние несколько дней.

Эта опция, вероятно, является ответом на последний скандал, связанный с Grok, который начался в начале 2026 года, когда добавление инструментов генерации изображений к чат-боту привело к созданию около 3 миллионов сексуализированных или обнаженных изображений. По оценкам Центра борьбы с цифровым ненавистничеством, около 23 000 изображений, созданных в этот 11-дневный период, содержали сексуализированные изображения детей. В связи с этим Grok сейчас находится под следствием регуляторов ЕС по этому вопросу.

Положительная сторона недавнего добавления функции заключается в том, что X и xAI предприняли шаги к ограничению неуместного использования Grok. Этот блок является простым переключателем и не был скрыт в интерфейсе. Это хорошо. Однако отрицательная сторона заключается в том, что этот символический жест не приводит к какому-либо серьезному улучшению того, как работает Grok или как им можно пользоваться. Конечно, чат-бот не будет изменять файл, загруженный одним человеком, но, как сообщает The Verge, блокировка ограничивает только возможность отметить Grok в ответе для создания редактирования изображения. Существует множество обходных путей для тех, кто настаивает на возможности использовать генеративный ИИ для раздевания людей без их согласия или ведома.

Хотелось бы, чтобы xAI разрабатывала более мощные защитные инструменты. Ограничения Grok на помещение реальных людей в скудную одежду, объявленные X в январе, похоже, имели лишь частичный успех в лучшем случае. Если это дополнительное и узкое использование - все, что предлагает компания, то заявления о нулевой терпимости к неконсенсуальному обнажению будут звучать пустыми. Особенно учитывая, что, как мы отмечали в то время, xAI могла бы вообще прекратить разрешать генерацию изображений до тех пор, пока проблема не будет должным образом и тщательно исправлена.