Grok enfrenta tempestade regulatória global: Reclamações na Austrália duplicam, múltiplos países atuam simultaneamente

As últimas advertências das autoridades reguladoras australianas elevaram a questão do abuso de imagens geradas por Grok de um risco regional para um foco internacional. Segundo as últimas informações, a Comissária de Segurança Digital da Austrália, Julie Inman Grant, afirmou que o número de queixas relacionadas a imagens de género não consensuais geradas pelo Grok duplicou-se em relação ao final de 2025, sendo que algumas envolvem conteúdo de pornografia infantil. Este não é um incidente isolado na Austrália, mas uma explosão global de abusos das funcionalidades do Grok.

Quão grave é o problema

“Modo Picante” do Grok tornou-se o principal foco de problemas

A funcionalidade “Modo Picante” incorporada no Grok é apontada como facilitadora direta do abuso de deepfakes por IA. Esta funcionalidade permite aos utilizadores gerar conteúdos mais controversos, incluindo imagens de conotação sexual não consentidas. De acordo com os dados mais recentes, o número de imagens de conotação sexual geradas por IA por hora no Grok é 84 vezes superior à soma dos cinco principais sites de deepfake. Este número demonstra que a escala do problema já saiu completamente do controlo.

Crescimento exponencial de queixas e o número de utilizadores

O Grok conta com cerca de 600 milhões de utilizadores ativos mensais (incluindo a plataforma X e a aplicação Grok), o que indica uma base de utilizadores extremamente grande para abusos. Embora o aumento de queixas duplique, refletindo a gravidade do problema, é mais provável que seja apenas a ponta do iceberg, pois muitas vítimas podem não ter apresentado queixas formais.

Ação reguladora global coordenada

O aviso da Austrália não é um caso isolado, mas parte de uma resposta coordenada de várias autoridades reguladoras:

Esta pressão regulatória global demonstra que o problema do Grok se tornou uma preocupação comum dos governos de vários países.

Impactos potenciais na xAI e na plataforma X

Contradição entre fiscalização e perspetivas comerciais

Apesar de a xAI ter concluído na última ano uma ronda de financiamento Série E de 20 mil milhões de dólares, avaliada em 230 mil milhões de dólares, a sua perspetiva comercial pode ser seriamente afetada pela fiscalização. A UE já ordenou a retenção de dados, a Índia ameaçou revogar o estatuto de “porto seguro”, sendo estes sinais de possíveis restrições de serviço.

Clarificação da responsabilidade das plataformas

A Comissária de Segurança Digital da Austrália destacou que, de acordo com a legislação australiana, as plataformas devem reforçar a supervisão do conteúdo gerado por IA. Isto significa que a X e a xAI não podem usar a justificação de “conteúdo gerado pelo utilizador” para fugir às responsabilidades. As plataformas terão de assumir responsabilidade direta pelas configurações do Grok, pela moderação de conteúdo e pelo controlo de riscos.

Possibilidade de desativação de funcionalidades

O “Modo Picante” foi considerado ilegal pela UE. Se outros países seguirem o exemplo, o Grok poderá enfrentar restrições de funcionalidades ou até mesmo ser forçado a desativar-se. Para a plataforma X, que depende do Grok como motor de crescimento, isto representa um golpe significativo.

Possíveis desenvolvimentos futuros

Com base nas informações atuais, alguns caminhos de evolução possíveis incluem:

• A xAI poderá ser forçada a fazer alterações substanciais na funcionalidade de geração de imagens do Grok, incluindo reforço na verificação de idade, adição de marcas de água, moderação de conteúdo em tempo real, etc.
• Vários países podem lançar legislação específica sobre conteúdo gerado por IA ainda este ano, clarificando de forma mais rigorosa as responsabilidades das plataformas.
• A plataforma X poderá enfrentar uma fiscalização mais rigorosa, incluindo restrições ou remoção em certos países.
• Outras empresas de IA podem aumentar os seus padrões de moderação de conteúdo para evitar riscos semelhantes.

Resumo

O Grok enfrenta não apenas um aumento de queixas na Austrália, mas uma tempestade regulatória global. Desde a ordem de retenção de dados na UE até às ameaças de revogação do “porto seguro” na Índia, passando pelo aviso formal na Austrália, várias autoridades reguladoras já chegaram a um consenso sobre o problema. A xAI e a plataforma X precisam compreender que a inovação tecnológica deve estar fundamentada no respeito pelos limites éticos e legais. Caso contrário, mesmo com o maior financiamento, os riscos regulatórios podem causar perdas irreparáveis. Este evento serve também como um alerta para toda a indústria de IA: a moderação de conteúdo e o controlo de riscos não são itens secundários, mas componentes essenciais do design do produto.