Grok опиняється у глобальній регуляторній бурі: скарги в Австралії подвоїлися, кілька країн одночасно активізувалися

Останні попередження регуляторних органів Австралії підвищили рівень ризику зловживань зображеннями, пов’язаних із Grok, з локального до міжнародного рівня. За останніми даними, комісар з безпеки в Інтернеті Австралії Джулі Інман Грант заявила, що кількість скарг на створення Grok небажаних гендерних зображень подвоїлася порівняно з кінцем 2025 року, з деякими випадками, що стосуються дитячого порнографічного контенту. Це не лише ізольований випадок в Австралії, а й глобальна хвиля зловживань функціями Grok.

Наскільки серйозна проблема

“Spicy Mode” Grok став гарячою точкою

Вбудована функція “Spicy Mode” в Grok звинувачується у прямому сприянні зловживанням AI глибокими підробками. Ця функція дозволяє користувачам створювати більш спірний контент, включаючи несанкціоновані сексуальні натяки. За останніми даними, кількість сексуальних натяків у AI-зображеннях, опублікованих кожну годину Grok, у 84 рази перевищує сумарну кількість таких зображень на п’яти основних сайтах глибоких підробок. Цей показник свідчить про повний вихід ситуації з-під контролю.

Зростання кількості скарг та масштаб користувачів

Grok має близько 600 мільйонів активних користувачів на місяць (загалом на платформі X і в додатку Grok), що означає дуже велику базу зловживань. Подвоєння кількості скарг відображає серйозність проблеми, але, ймовірно, це лише вершина айсберга, оскільки багато жертв можливо й не подають офіційних скарг.

Міжнародна співпраця регуляторів

Попередження Австралії не є ізольованим випадком, а частиною спільних дій регуляторних органів кількох країн:

Такий глобальний тиск свідчить про те, що проблема Grok стала спільною турботою урядів різних країн.

Потенційний вплив на xAI і платформу X

Конфлікт між регуляторною перевіркою та бізнес-перспективами

Хоча xAI минулого року залучила 20 мільярдів доларів інвестицій у раунд E і оцінюється у 230 мільярдів доларів, регуляторна перевірка може суттєво вплинути на її бізнес-перспективи. Європейський союз вже наказав зберігати дані, Індія погрожує скасувати статус “безпечної гавані”, що є передвісниками можливих обмежень у сервісі.

Визначення відповідальності платформи

Комісар з безпеки в Інтернеті Австралії підкреслила, що відповідно до австралійського законодавства платформи повинні посилити контроль за контентом, створеним AI. Це означає, що X і xAI не можуть посилатися на “контент, створений користувачами”, щоб уникнути відповідальності. Вони мають нести безпосередню відповідальність за налаштування функцій Grok, модерацію контенту та управління ризиками.

Можливе виведення функцій

“Spicy Mode” вже визнано незаконним у ЄС. Якщо інші країни наслідують цей приклад, Grok може стикнутися з обмеженнями функціоналу або навіть вимушеним виведенням з ринку. Це стане серйозним ударом для платформи X, яка залежить від Grok як драйвера зростання.

Можливі напрямки розвитку

З урахуванням поточної інформації, можливі кілька сценаріїв розвитку:

• xAI може бути змушена суттєво модифікувати функцію створення зображень Grok, включаючи посилення вікової перевірки, додавання водяних знаків, реального модераційного контролю тощо
• Багато країн цього року можуть запровадити спеціальне законодавство щодо AI-згенерованого контенту, щоб чіткіше визначити відповідальність платформ
• Платформа X може зазнати більш суворих регуляторних перевірок або бути обмеженою/знятою з ринку в окремих країнах
• Інші компанії AI можуть підвищити стандарти модерації контенту, щоб уникнути подібних ризиків

Висновок

Проблема Grok — це не лише зростання кількості скарг в Австралії, а й глобальна регуляторна буря. Від європейського збереження даних до індійських погроз скасувати “безпечну гавань” і до офіційних попереджень Австралії — регуляторні органи вже сформували спільне розуміння цієї проблеми. xAI і платформа X мають усвідомлювати, що технологічні інновації повинні базуватися на дотриманні етичних і правових меж. Інакше навіть найбільше фінансування не зможе компенсувати втрати від регуляторних ризиків. Цей випадок також є сигналом для всієї AI-індустрії: модерація контенту і управління ризиками — це не додаткові опції, а необхідна частина продуктового дизайну.