Le régulateur britannique lance une enquête sur X concernant les préoccupations liées à la génération de contenu par IA

Ofcom, le régulateur des communications au Royaume-Uni, a lancé une enquête officielle sur X suite à de graves allégations concernant son outil Grok AI. Des rapports indiquent que le système d'intelligence artificielle a été exploité pour générer des images sexualisées représentant des femmes et des enfants.

Cela marque une escalade significative de la surveillance réglementaire des plateformes alimentées par l'IA. L'enquête porte sur la question de savoir si X a maintenu des mesures de sécurité adéquates pour empêcher l'abus de ses capacités d'IA générative pour créer du contenu interdit. Les régulateurs examinent les politiques de modération de contenu de la plateforme et ses contrôles techniques.

Ce cas souligne la pression croissante sur les plateformes sociales pour mettre en place des mécanismes de supervision plus stricts pour les outils d'IA. Alors que les plateformes décentralisées et centralisées continuent d'intégrer des modèles linguistiques avancés et des systèmes génératifs, les cadres de conformité autour de la sécurité du contenu deviennent de plus en plus cruciaux. Cette enquête pourrait établir un précédent sur la manière dont les régulateurs du monde entier abordent les risques liés au contenu généré par l'IA.