ИИ-стартап xAI Илона Маска сознательно разрешил генерацию сексуализированного и NSFW-контента в чат-боте Grok, чтобы ускорить рост аудитории и сократить отставание от OpenAI и Google. Об этом сообщает The Washington Post со ссылкой на источники внутри компании и внутренние документы.
По данным издания, ставка на «взрослый контент» была не случайной особенностью продукта, а частью стратегии агрессивного продвижения. Весной 2025 года сотрудников, занимавшихся настройкой ответов и модерацией, попросили подписать соглашение, где прямо говорилось, что работа будет связана с деликатным, сексуальным, насильственным и потенциально травмирующим контентом.
«Деятельность связана с деликатным, насильственным, сексуальным и/или другим оскорбительным или тревожным контентом, который может вызывать беспокойство, психологический стресс и/или травмировать», — говорилось в соглашении.
Это вызвало тревогу у специалистов: компания, декларирующая целью «ускорение научных открытий», фактически была готова генерировать любые материалы ради пользовательского внимания.
В последующие месяцы сотрудники столкнулись с потоком интимных данных. В выборки для обучения попадали не только откровенные диалоги пользователей с Grok, но и сексуальные аудиозаписи, включая разговоры пассажиров Tesla, зафиксированные бортовыми системами. Это породило вопросы о приватности и границах допустимого использования чувствительного контента.
Washington Post отмечает, что Маск лично усилил давление на команду. После ухода из DOGE он стал регулярно посещать офис xAI и требовал ускорения роста Grok. Внутри компании появился новый KPI — не качество ответов и не безопасность, а «секунды активности пользователя», то есть время, которое человек проводит в чат-боте. Такой подход больше напоминает механику соцсетей, где главное — удержание внимания любой ценой.
Особую обеспокоенность вызвало то, что при высоких рисках команда безопасности в xAI была минимальной: всего два или три человека отвечали за предотвращение тяжелых последствий вроде генерации запрещенного контента, дипфейков со знаменитостями или сексуализированных изображений детей. При этом конкуренты масштаба OpenAI имеют десятки специалистов в подобных отделах.
Ключевой момент наступил в декабре, когда xAI встроила инструменты редактирования изображений и видео прямо в соцсеть X. Это дало пользователям возможность создавать провокационные картинки с сексуальным подтекстом, и подобный контент начал распространяться с беспрецедентной скоростью. Ситуация привлекла внимание регуляторов и правоохранительных органов в ряде стран, начались расследования и блокировки Grok.
На фоне скандалов компания частично ограничила генерацию откровенных изображений реальных людей. Маск заявил, что ему неизвестно ни об одном случае использования Grok для создания детской порнографии. Однако журналисты подчеркивают: xAI не отказалась от направления NSFW полностью, ограничения скорее носили выборочный характер.
Несмотря на юридические и этические риски, стратегия сработала. Если раньше Grok значительно отставал от лидеров, то после обновлений приложение ворвалось в топ-10 App Store, а число ежедневных загрузок с 1 по 19 января выросло на 72% по сравнению с декабрем. В итоге компания решила развивать направление NSFW-контента и ИИ-компаньонов, фактически сделав ставку на аудиторию, которую конкуренты ограничивают жесткими правилами.
История Grok становится показательным примером нового конфликта в индустрии ИИ: безопасность и этика против гонки за вниманием и ростом любой ценой. Маск снова действует в своем стиле — ломать правила быстрее, чем регуляторы успевают их переписать. Но вопрос остается открытым: может ли рынок искусственного интеллекта позволить себе такую стратегию, если цена успеха — легализация самых токсичных форм контента?
ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: Все материалы, представленные на этом сайте (https://wildinwest.com/), включая вложения, ссылки или материалы, на которые ссылается компания, предназначены исключительно для информационных и развлекательных целей и не должны рассматриваться как финансовая консультация. Материалы третьих лиц остаются собственностью их соответствующих владельцев.