英国の規制当局、XのAIコンテンツ生成に関する調査を開始

英国の通信規制当局Ofcomは、Xに対して正式な調査を開始しました。これは、同社のGrok AIツールに関する深刻な告発を受けたものです。報告によると、人工知能システムが悪用され、女性や子供を描いた性的な画像が生成されたとされています。

これは、AIを活用したプラットフォームに対する規制の監視が大きく高まる中での重要なエスカレーションです。調査の焦点は、Xが禁止コンテンツの作成を防ぐための適切な安全策を維持していたかどうかにあります。規制当局は、プラットフォームのコンテンツモデレーションポリシーや技術的コントロールを検証しています。

このケースは、AIツールに対するより厳格な監督メカニズムを実装するよう、ソーシャルプラットフォームに対する圧力が高まっていることを示しています。分散型および集中型プラットフォームが高度な言語モデルや生成システムを統合し続ける中で、コンテンツの安全性に関するコンプライアンスの枠組みはますます重要になっています。この調査は、世界中の規制当局がAI生成コンテンツのリスクにどのように対処するかの先例となるでしょう。