xAI объявила о внедрении ограничений в Grok, чтобы предотвратить редактирование изображений реальных людей в откровенной одежде, такой как бикини. Эти меры включают запрет на такую обработку для всех пользователей, включая платных подписчиков, а также геоблокировку в юрисдикциях, где подобный контент запрещен законом. Доступ к генерации и редактированию изображений через аккаунт Grok на платформе X теперь ограничен только верифицированными премиум-подписчиками.
Давление на Apple
Коалиция из 28 организаций по цифровым правам, защите детей и прав женщин направила открытое письмо в Apple с требованием немедленно удалить приложения X и Grok из App Store. Они обвиняют Grok в создании неконсенсуальных интимных изображений (NCII), включая материалы с сексуальным насилием над детьми (CSAM), что нарушает правила ревью App Store. Apple подвергается критике за молчание и возможную пассивность в вопросах модерации контента в своем магазине приложений.
Технические изменения в Grok
xAI ввела технологические барьеры, блокирующие редактирование фото реальных людей в бикини или аналогичной одежде через аккаунт Grok на X. Для неплатных пользователей функция генерации изображений полностью отключена с сообщением о необходимости премиум-подписки. Геоблокировка применяется к созданию изображений реальных людей в нижнем белье или бикини в странах, где это незаконно, с целью повышения ответственности нарушителей.
Проблемы и перспективы
Несмотря на обновления, пользователи уже находят способы обходить ограничения, что подтверждается упоминаниями в поиске по Grok. Эксперты отмечают наличие исключений в правилах xAI, которые касаются только аккаунта на X, и предполагают, что тролли продолжат эксплуатировать уязвимости для атак на женщин. Apple пока не отреагировала публично, что усиливает сомнения в ее приверженности безопасности App Store.
