O Regulador do Reino Unido Inicia Investigação Sobre o X por Preocupações com Geração de Conteúdo por IA

Ofcom, o regulador de comunicações do Reino Unido, iniciou uma investigação formal sobre o X após alegações graves relacionadas à sua ferramenta Grok AI. Relatórios indicam que o sistema de inteligência artificial foi explorado para gerar imagens sexualizadas que retratam mulheres e crianças.

Isto marca uma escalada significativa na fiscalização regulatória de plataformas alimentadas por IA. A investigação centra-se em saber se o X manteve salvaguardas adequadas para impedir o uso indevido de suas capacidades de IA generativa na criação de conteúdo proibido. Os reguladores estão a examinar as políticas de moderação de conteúdo da plataforma e os controles técnicos.

O caso destaca a crescente pressão sobre plataformas sociais para implementar mecanismos de supervisão mais rigorosos para ferramentas de IA. À medida que plataformas descentralizadas e centralizadas continuam a integrar modelos de linguagem avançados e sistemas generativos, os quadros de conformidade em torno da segurança do conteúdo tornam-se cada vez mais críticos. Esta investigação provavelmente estabelecerá um precedente para a forma como reguladores em todo o mundo abordam os riscos de conteúdo gerado por IA.