- 新法「Take It Down Act」がAI生成ディープフェイクとリベンジポルノを含む非同意の露骨画像の公開を違法化、プラットフォームに48時間以内の削除義務を課す
- 曖昧な言語表現と緩い認証基準により、正当なコンテンツの検閲や監視強化の懸念が浮上
- プラットフォームがAI技術を活用した事前監視システムの導入を加速させる可能性
- 暗号化メッセージングサービスへの影響拡大と言論の自由への広範囲な脅威を専門家が指摘
リベンジポルノとAI生成ディープフェイクの規制強化
プライバシーとデジタル権利の擁護者らが、多くの人が歓迎すると予想される法律に対して警鐘を鳴らしている。それは、リベンジポルノとAI生成ディープフェイクに対する連邦政府の取り締まりである。
新たに署名された「Take It Down Act」は、実際のものでもAI生成ディープフェイクでも、非同意の露骨画像の公開を違法とし、プラットフォームに被害者の削除要請に48時間以内に応じるか責任を負わせるものだ。リベンジポルノ被害者にとって長年待ち望まれた勝利として広く称賛される一方で、専門家らはその曖昧な言語表現、請求の検証における緩い基準、厳しいコンプライアンス期間が、過度な規制、正当なコンテンツの検閲、さらには監視への道を開く可能性があると警告している。
「大規模なコンテンツモデレーションは広く問題があり、常に重要で必要な言論が検閲される結果となる」と、デジタル権利団体Electronic Frontier Foundationの連邦問題担当ディレクターであるIndia McKinney（インディア・マッキニー）氏は語った。
AI検出技術企業Hiveによるディープフェイクとリベンジポルノ対策
オンラインプラットフォームは、非同意の親密画像（NCII）を削除するプロセスを確立するまで1年の猶予がある。法律では削除要請は被害者またはその代理人からのものでなければならないとしているが、物理的または電子的な署名のみを求めており、写真付き身分証明書やその他の形式の検証は不要である。これは被害者の障壁を減らすことを目的としている可能性があるが、悪用の機会を作る可能性もある。
AI生成コンテンツ検出スタートアップHiveのCEO兼共同創設者であるKevin Guo（ケビン・グオ）氏は、同社がオンラインプラットフォームと協力してディープフェイクと児童性的虐待素材（CSAM）を検出していると述べた。Hiveの顧客にはReddit、Giphy、Vevo、Bluesky、BeRealなどが含まれる。
「私たちは実際にその法案を支持した技術企業の一つだった」とGuo氏は語った。「これは非常に重要な問題の解決に役立ち、これらのプラットフォームにより積極的にソリューションを採用するよう促すだろう。」
Hiveのモデルはソフトウェア・アズ・ア・サービスであるため、スタートアップはプラットフォームがコンテンツにフラグを立てたり削除したりするために製品をどのように使用するかを制御していない。しかし、Guo氏は多くのクライアントがアップロード時点でHiveのAPIを挿入し、コミュニティに送信される前に監視していると述べた。
RedditとMastodonの対応とAI監視の拡大
Redditの広報担当者は、同プラットフォームがNCIIに「対処し削除する」ために「洗練された内部ツール、プロセス、チーム」を使用していると述べた。Redditはまた、非営利団体SWGflと提携してStopNCIIツールを展開しており、これは既知のNCIIのデータベースと照合してライブトラフィックをスキャンし、正確な一致を削除する。同社は削除を要請する人物が被害者であることをどのように確認するかは共有しなかった。
独立運営されるサーバーに依存する分散型プラットフォームであるMastodonは、被害者の確認が困難すぎる場合は削除に傾くと述べた。MastodonやBluesky、Pixelfedなどの他の分散型プラットフォームは、48時間の削除ルールの萎縮効果に特に脆弱である可能性がある。
McKinney氏は、プラットフォームが将来問題のある投稿を減らすために、コンテンツが配信される前にモデレーションを開始すると予測している。プラットフォームは既に有害なコンテンツを監視するためにAIを使用している。
暗号化メッセージングサービスへの拡大懸念
McKinney氏は、この種の監視が将来暗号化メッセージにまで拡大する可能性があると警告している。法律は公的または半公的な配信に焦点を当てているが、プラットフォームに非同意の親密画像を「削除し、再アップロードを防ぐための合理的な努力をする」ことも要求している。彼女は、これが暗号化された空間でも含めて、すべてのコンテンツの積極的なスキャンを奨励する可能性があると主張している。法律には、WhatsApp、Signal、iMessageなどのエンドツーエンド暗号化メッセージングサービスに対する除外規定は含まれていない。
Meta、Signal、Appleは、暗号化メッセージングに関する計画についてTechCrunchの詳細情報要請に応答していない。
トランプ政権下での言論統制への懸念拡大
3月4日、トランプ大統領は議会への合同演説でTake It Down Actを称賛し、法律に署名することを楽しみにしていると述べた。
「そして、もしよろしければ、私もその法案を自分のために使うつもりです」と彼は付け加えた。「オンラインで私ほど悪い扱いを受けている人はいません。」
聴衆はこのコメントに笑ったが、全員がそれを冗談として受け取ったわけではない。トランプ大統領は不利な言論を抑制したり報復したりすることについて恥ずかしがっておらず、主流メディアアウトレットを「人民の敵」とレッテルを貼ったり、裁判所命令にもかかわらずAssociated Pressを大統領執務室から締め出したり、NPRとPBSから資金を引き上げたりしている。
木曜日、トランプ政権はHarvard大学が外国人学生の入学受け入れを禁止し、Harvard大学がカリキュラムの変更やDEI関連コンテンツの排除などのトランプ大統領の要求に従うことを拒否した後に始まった対立を激化させた。報復として、トランプ大統領はHarvardへの連邦資金を凍結し、大学の免税資格を取り消すと脅している。
「学校委員会が本を禁止しようとし、特定の政治家が人々に見せたくないコンテンツの種類について非常に明確にしている時代において、それが批判的人種理論であれ中絶情報であれ気候変動に関する情報であれ…両党のメンバーがこの規模でのコンテンツモデレーションを公然と主張しているのを見るのは、コンテンツモデレーションに関する私たちの過去の作業において深く不快である」とMcKinney氏は述べた。
引用元: TechCrunch
Why a new anti-revenge porn law has free speech experts alarmed
