Meta、AI裸体化アプリ「Crush AI」をプラットフォーム広告掲載で提訴

MetaがAI「裸体化」アプリCrush AIの開発元Joy Timeline HKを香港で提訴
2025年初頭2週間で8,000件以上の違法広告をMeta プラットフォームに掲載
AI裸体化サービス対策として新技術導入、4つのネットワークを摘発
Tech Coalition Lanternプログラムを通じて3,800以上のURLを共有し業界連携強化

Meta対Crush AI訴訟の詳細と背景

Metaは、同社のプラットフォーム全体で数千件の広告を掲載したと報告される人気AI「nudify（裸体化）」アプリ「Crush AI」の開発元を提訴した。訴訟に加えて、Metaは Crush AIのような他のアプリを取り締まるための新たな措置を講じていると述べている。

香港で提起された訴訟で、MetaはCrush AIの背後にある企業Joy Timeline HKが、AI裸体化サービスの広告を配信するため同社の審査プロセスを回避しようと試みたと申し立てた。Metaはブログ投稿で、同社のポリシーに違反したとして当該企業の広告を繰り返し削除したが、Joy Timeline HKはその後も追加広告を掲載し続けたと主張している。

Crush AIの広告展開と回避戦術

同意なしに実在の人物の偽の性的に露骨な画像を作成する生成AIを使用するCrush AIは、Faked Upニュースレターの執筆者Alexios Mantzarlis（アレクシオス・マンツァーリス）氏によると、2025年の最初の2週間でMetaのプラットフォーム上で「AI服脱がし」サービスの8,000件以上の広告を掲載したと報告されている。

1月のレポートで、Mantzarlis氏はCrush AIのウェブサイトがFacebookまたはInstagramからトラフィックの約90%を獲得しており、これらのウェブサイトの数件をMetaに報告したと主張した。

Crush AIは数十の広告主アカウントを設定し、ドメイン名を頻繁に変更することでMetaの広告審査プロセスを回避したと報告されている。Mantzarlis氏によると、Crush AIの広告主アカウントの多くは「Eraser Annyone’s Clothes」の後に異なる番号が続く名前だった。一時期、Crush AIはサービスを宣伝するFacebookページまで持っていた。

ソーシャルメディアプラットフォーム全体の課題

FacebookとInstagramは、このような課題に対処している唯一のプラットフォームではない。XやMetaなどのソーシャルメディア企業が自社アプリに生成AIを追加する競争を繰り広げる中、AIツールがプラットフォームをユーザー、特に未成年者にとって安全でない場所にする方法の管理に苦戦している。

研究者は、XやRedditなどのプラットフォームでAI服脱がしアプリへのリンクが2024年に急増し、YouTubeでは数百万人がこのようなアプリの広告を配信されたと報告していることを発見した。この拡大する問題に対応して、MetaとTikTokはAI裸体化アプリのキーワード検索を禁止したが、これらのサービスをプラットフォームから完全に排除することは困難であることが判明している。

Meta新技術導入と対策強化

ブログ投稿で、Metaは「広告自体に裸体が含まれていない場合でも」AI裸体化または服脱がしサービスの広告を特定するための新技術を開発したと述べた。同社は現在、コピーキャット広告をより迅速に発見・削除するためのマッチング技術を使用し、システムによってフラグが立てられる用語、フレーズ、絵文字のリストを拡大したと述べている。

Metaはまた、悪質行為者のネットワークを破壊するために従来使用してきた戦術を、AI裸体化サービスの広告を掲載するアカウントの新しいネットワークに適用していると述べた。2025年の開始以来、Metaはこれらのサービスを宣伝する4つの別々のネットワークを摘発したと述べている。

業界連携とTech Coalition Lanternプログラム

自社アプリ以外では、同社はTech CoalitionのLanternプログラムを通じてAI裸体化アプリに関する情報の共有を開始すると述べた。これはGoogle、Meta、Snap、その他の企業間のオンラインでの児童性的搾取を防ぐための集団的取り組みだ。Metaは3月以降、このネットワークと3,800以上の固有URLを提供したと述べている。