Інноваційний стартап Ілона Маска xAI навмисно дозволив генерацію сексуалізованого та NSFW-контенту у своєму чат-боті Grok, щоб прискорити ріст аудиторії та скоротити відставання від OpenAI і Google. Про це повідомляє The Washington Post із посиланням на джерела всередині компанії та внутрішні документи.
За даними видання, ставка на «дорослий контент» не була випадковою особливістю продукту, а частиною агресивної стратегії просування. Навесні 2025 року співробітників, які займалися налаштуванням відповідей і модерацією, попросили підписати угоду, у якій прямо вказувалося, що робота буде пов’язана з делікатним, сексуальним, насильницьким і потенційно травмуючим контентом.
«Діяльність пов’язана з делікатним, насильницьким, сексуальним та/або іншим образливим або тривожним контентом, який може викликати занепокоєння, психологічний стрес та/або травмувати», — зазначалося в угоді.
Це викликало занепокоєння у фахівців: компанія, яка декларує мету «прискорення наукових відкриттів», фактично була готова генерувати будь-які матеріали заради уваги користувачів.
У наступні місяці співробітники стикнулися з потоком інтимних даних. До навчальних вибірок потрапляли не лише відверті діалоги користувачів із Grok, а й сексуальні аудіозаписи, включно з розмовами пасажирів Tesla, зафіксованими бортовими системами. Це породило питання щодо приватності та меж допустимого використання чутливого контенту.
Washington Post зазначає, що Маск особисто посилив тиск на команду. Після відходу з DOGE він почав регулярно відвідувати офіс xAI і вимагав прискорити ріст Grok. Всередині компанії з’явився новий KPI — не якість відповідей і не безпека, а «секунди активності користувача», тобто час, який людина проводить у чат-боті. Такий підхід більше нагадує механіку соцмереж, де головне — утримання уваги будь-якою ціною.
Особливе занепокоєння викликало те, що при високих ризиках команда безпеки в xAI була мінімальною: всього два або три співробітники відповідали за запобігання серйозним наслідкам, таким як генерація забороненого контенту, дипфейків із знаменитостями або сексуалізованих зображень дітей. У той час як конкуренти масштабу OpenAI мають десятки спеціалістів у подібних відділах.
Ключовий момент настав у грудні, коли xAI інтегрувала інструменти редагування зображень і відео безпосередньо у соцмережу X. Це дало користувачам змогу створювати провокаційні картинки з сексуальним підтекстом, і такий контент почав поширюватися з небаченою швидкістю. Ситуація привернула увагу регуляторів і правоохоронних органів у кількох країнах, почалися розслідування та блокування Grok.
На тлі скандалів компанія частково обмежила генерацію відвертих зображень реальних людей. Маск заявив, що йому невідомо про жоден випадок використання Grok для створення дитячої порнографії. Однак журналісти наголошують, що xAI повністю не відмовилась від NSFW-напряму, обмеження носили скоріше вибірковий характер.
Попри юридичні та етичні ризики, стратегія спрацювала. Якщо раніше Grok значно відставав від лідерів, то після оновлень додаток увірвався в топ-10 App Store, а число щоденних завантажень з 1 по 19 січня зросло на 72% порівняно з груднем. В підсумку компанія вирішила розвивати напрям NSFW-контенту та ІІ-компаньйонів, фактично зробивши ставку на аудиторію, яку конкуренти обмежують суворими правилами.
Історія Grok стає показовим прикладом нового конфлікту в індустрії ІІ: безпека та етика проти гонки за увагою та зростання будь-якою ціною. Маск знову діє у своєму стилі — ламати правила швидше, ніж регулятори встигають їх переписати. Але питання залишається відкритим: чи може ринок штучного інтелекту дозволити собі таку стратегію, якщо ціна успіху — легалізація найтоксичніших форм контенту?
ВІДМОВА ВІД ВІД ВІДПОВІДАЛЬНОСТІ: Усі матеріали, представлені на цьому сайті (https://wildinwest.com/), включно з вкладеннями, посиланнями або матеріалами, на які посилається компанія, призначено винятково для інформаційних і розважальних цілей, і їх не слід розглядати як фінансову консультацію. Матеріали третіх осіб залишаються власністю їхніх відповідних власників.