Meta、プラットフォーム乱用取り締まりの一環としてAI Nudify開発者に法的措置

Metaは、CrushAIの背後にある香港拠点の企業Joy Timeline HK Ltd.を対象に訴訟を開始しました。CrushAIは、同意なしに親密な画像を生成するAIヌード化アプリで悪名高いものです。取り締まりを強化するため、ソーシャルメディア大手は香港で法的措置を取り、FacebookやInstagram上での広告審査回避の協調的な行動を取り締まるとしています。

核心問題：AIヌード化アプリと体系的な乱用

CrushAIプラットフォームは、許可なく個人の画像をデジタル操作するAIヌード化ツールの増加するカテゴリーの一例です。これらのアプリは特に女性や有名人を標的とし、合成された親密なコンテンツを作り出し、嫌がらせ、恐喝、ひいては児童搾取ネットワークにまで発展しています。CBSニュースの調査では、Metaのインフラ上で依然として流通している類似アプリの広告が数百件存在することが明らかになり、問題の規模を浮き彫りにしています。

Metaの取り締まりのジレンマ

Joy Timelineの戦略は、Metaの広告承認プロトコルを繰り返し回避することにありました。Metaの裁判資料によると、同社は複数の削除にもかかわらずプロモーションを継続していたといいます。この体系的なポリシー違反のパターンに対し、Metaはユーザーの安全を守り、プラットフォームの健全性を維持するために法的措置を取ったのです。

「私たちは、私たちのプラットフォームを悪用し、コミュニティを危険にさらす者に対して法的手段を追求します」とMetaは述べ、日常的なコンテンツ削除を超えた長期的な解決策へのコミットメントを強調しました。

技術的および協力的な対応

訴訟に加え、MetaはAIヌード化コンテンツを含む有害な広告を識別できる高度な検出システムを導入しています。これにより、明示的な映像を含まなくても検知可能です。同時に、業界パートナーと脅威情報を共有し、こうしたアプリケーションに対するより広範な防御戦略を調整しています。

また、Metaはこれらの搾取サービスに関連する4つの協調広告ネットワークを解体したと報告し、内部のセキュリティチームと外部の研究者が連携して新たな回避技術の特定に取り組んでいます。

業界全体の責任追及

法制当局や研究機関がAIヌード化技術とその流通経路に対する監視を強める中、Metaの多角的アプローチ—法的措置、アルゴリズムによる検出、企業間の連携—は、より積極的なプラットフォーム管理へのシフトを示しています。業界の観測者は、このような取り締まりをAI駆動の搾取と戦うために必要な一歩と見なしています。

同社は、進化する回避戦術に対して警戒を続けつつ、ユーザーを捕食的なAIアプリから守るための保護策を維持する決意を示しています。