Grok попал в глобальный шторм регулирования: жалобы в Австралии удвоились, несколько стран одновременно наращивают усилия

Последние предупреждения регулирующих органов Австралии превратили проблему злоупотребления изображениями Grok с регионального риска в международный фокус. Согласно последним сообщениям, комиссар по вопросам безопасности в сети Австралии Julie Inman Grant заявила, что количество жалоб на генерацию Grok нежелательных гендерных изображений удвоилось по сравнению с концом 2025 года, в некоторых случаях затрагивая детскую порнографию. Это не только изолированный случай в Австралии, но и массовое проявление злоупотреблений функциями Grok по всему миру.

Насколько серьезна проблема

“Spicy Mode” Grok стал горячей точкой

Встроенная функция “Spicy Mode” в Grok обвиняется в прямом содействии злоупотреблениям AI-Deepfake. Эта функция позволяет пользователям создавать более спорный контент, включая несанкционированные сексуальные намеки. Согласно последним данным, количество сексуальных AI-изображений, публикуемых Grok за час, в 84 раза превышает сумму аналогичных изображений на пяти крупнейших сайтах по Deepfake. Эта цифра показывает, что масштаб проблемы вышел из-под контроля.

Рост жалоб и масштаб пользователей

Grok имеет около 600 миллионов активных пользователей в месяц (в совокупности платформы X и приложения Grok), что означает чрезвычайно большую базу злоупотреблений. Удвоение жалоб отражает серьезность проблемы, но, скорее всего, это лишь вершина айсберга, поскольку многие жертвы могут не подавать официальных жалоб.

Глобальные совместные действия регулирующих органов

Предупреждения Австралии не являются изолированными, а частью совместных усилий регулирующих органов нескольких стран:

Эта глобальная синхронная регуляторная активность показывает, что проблема Grok стала предметом общего беспокойства правительств разных стран.

Потенциальные последствия для xAI и платформы X

Конфликт между регуляторным контролем и бизнес-перспективами

Несмотря на то, что xAI в прошлом году завершила раунд финансирования в 20 миллиардов долларов и оценивается в 230 миллиардов долларов, регуляторные проверки могут существенно повлиять на ее бизнес-планы. ЕС уже потребовал сохранить данные, Индия угрожает лишить статус “безопасной гавани”, что может стать предвестником ограничения сервиса.

Уточнение ответственности платформ

Комиссар по вопросам безопасности в сети Австралии подчеркнула, что согласно австралийскому законодательству, платформы должны усилить контроль за контентом, создаваемым AI. Это означает, что X и xAI не могут уклоняться от ответственности, ссылаясь на “контент, созданный пользователями”. Платформы должны нести прямую ответственность за настройки функций Grok, модерацию контента и управление рисками.

Возможность отключения функций

“Spicy Mode” уже признан незаконным в ЕС. Если другие страны последуют примеру, Grok может столкнуться с ограничениями функций или даже вынужденным отключением. Для платформы X, которая использует Grok как двигатель роста, это станет серьезным ударом.

Возможные направления развития

Исходя из текущей информации, в будущем могут развиться несколько сценариев:

• xAI может быть вынуждена кардинально переработать функцию генерации изображений Grok, включая усиление возрастной проверки, добавление водяных знаков, внедрение системы проверки контента в реальном времени
• В этом году несколько стран могут принять специальные законы, регулирующие AI-генерируемый контент, уточняющие ответственность платформ
• Платформа X может столкнуться с более строгими регуляторными проверками или даже ограничениями и удалением в некоторых странах
• Другие компании в области AI могут повысить стандарты модерации контента, чтобы избежать подобных рисков

Итог

Проблема Grok — это не только рост жалоб в Австралии, но и глобальная регуляторная буря. От требований ЕС по сохранению данных до угрозы лишения статуса “безопасной гавани” в Индии и официальных предупреждений в Австралии — регуляторы нескольких стран уже сформировали единое мнение по этому вопросу. xAI и платформа X должны понять, что технологические инновации должны строиться на уважении этических и правовых границ. Иначе даже крупное финансирование не сможет компенсировать потери, вызванные регуляторными рисками. Этот инцидент также служит напоминанием всему AI-индустрию: контроль за содержанием и управление рисками — не дополнительные опции, а обязательная часть разработки продукта.