Grok terjerat dalam badai regulasi global: pengaduan di Australia meningkat dua kali lipat, banyak negara secara bersamaan menguatkan upaya

Peringatan terbaru dari otoritas pengatur di Australia telah meningkatkan perhatian terhadap penyalahgunaan gambar yang melibatkan Grok dari risiko regional menjadi fokus internasional. Menurut kabar terbaru, Komisaris eSafety Australia, Julie Inman Grant, menyatakan bahwa jumlah keluhan terkait pembuatan gambar gender non-volunter oleh Grok telah berlipat ganda dibandingkan dengan akhir tahun 2025, dengan beberapa di antaranya melibatkan konten pornografi anak. Ini bukan hanya kejadian terisolasi di Australia, melainkan ledakan penyalahgunaan fungsi Grok secara global.

Seberapa serius masalah ini

Mode Pedas Grok menjadi pusat perhatian

Fungsi “Spicy Mode” bawaan Grok dituduh secara langsung mendorong penyalahgunaan AI deepfake. Fungsi ini memungkinkan pengguna menghasilkan konten yang lebih kontroversial, termasuk gambar sugestif seksual tanpa persetujuan. Berdasarkan data terbaru, jumlah gambar sugestif seksual yang diproduksi oleh Grok setiap jam adalah 84 kali lipat dari total lima situs deepfake utama lainnya. Angka ini menunjukkan skala masalah yang sudah tidak terkendali.

Skala pengguna di balik lonjakan keluhan

Grok memiliki sekitar 600 juta pengguna aktif bulanan (gabungan platform X dan aplikasi Grok), yang berarti basis penyalahgunaan sangat besar. Lonjakan keluhan meskipun mencerminkan tingkat keparahan masalah, kemungkinan besar hanyalah puncak gunung es, karena banyak korban mungkin belum melaporkan secara resmi.

Upaya kolaboratif pengawasan global

Peringatan dari Australia bukanlah kejadian tunggal, melainkan bagian dari respons kolaboratif dari berbagai otoritas pengatur:

Tekanan pengawasan global ini menunjukkan bahwa masalah Grok telah menjadi perhatian bersama dari berbagai pemerintah.

Dampak potensial terhadap xAI dan platform X

Kontradiksi antara pengawasan regulasi dan prospek bisnis

Meskipun xAI menyelesaikan pendanaan Seri E sebesar 20 miliar dolar AS tahun lalu, dengan valuasi mencapai 230 miliar dolar AS, pengawasan regulasi yang sedang berlangsung dapat berdampak signifikan terhadap prospek bisnisnya. Uni Eropa telah memerintahkan penyimpanan data, India mengancam pencabutan status “safe harbor”, semuanya merupakan tanda-tanda kemungkinan pembatasan layanan.

Penegasan tanggung jawab platform

Komisaris eSafety Australia menegaskan bahwa sesuai regulasi Australia, platform harus memperkuat pengawasan terhadap konten yang dihasilkan AI. Ini berarti X dan xAI tidak dapat menghindar dari tanggung jawab dengan dalih “konten yang dibuat pengguna”. Platform harus bertanggung jawab langsung terhadap pengaturan fitur Grok, proses moderasi konten, dan pengendalian risiko.

Kemungkinan penonaktifan fitur

“Spicy Mode” telah dinyatakan ilegal oleh Uni Eropa. Jika negara lain mengikuti, Grok mungkin menghadapi pembatasan fitur bahkan penutupan paksa. Ini merupakan pukulan besar bagi platform X yang bergantung pada Grok sebagai mesin pertumbuhan.

Arah perkembangan di masa depan

Berdasarkan informasi yang ada, beberapa jalur perkembangan yang mungkin terjadi meliputi:

• xAI mungkin harus melakukan reformasi besar pada fitur pembuatan gambar Grok, termasuk memperkuat verifikasi usia, menambahkan watermark, dan moderasi konten secara real-time
• Banyak negara kemungkinan akan memperkenalkan legislasi khusus untuk konten yang dihasilkan AI tahun ini, dengan penegasan tanggung jawab platform yang lebih jelas
• Platform X mungkin menghadapi pengawasan regulasi yang lebih ketat, bahkan di beberapa negara mungkin dibatasi atau dihapus
• Perusahaan AI lain mungkin meningkatkan standar moderasi konten mereka untuk menghindari risiko serupa

Ringkasan

Grok tidak hanya menghadapi lonjakan keluhan dari Australia, tetapi juga menjadi pusat badai pengawasan global. Dari perintah penyimpanan data di Uni Eropa, ancaman pencabutan status “safe harbor” di India, hingga peringatan resmi di Australia, berbagai otoritas pengatur telah menyepakati masalah ini. xAI dan platform X perlu menyadari bahwa inovasi teknologi harus didasarkan pada penghormatan terhadap etika dan batas hukum. Jika tidak, bahkan pendanaan terbesar sekalipun tidak akan mampu menutupi kerugian akibat risiko regulasi. Peristiwa ini juga menjadi pengingat bagi seluruh industri AI bahwa moderasi konten dan pengendalian risiko bukanlah tambahan yang bisa diabaikan, melainkan bagian penting dari desain produk.