シドニーの高校でAIディープフェイク・ポルノ画像が拡散、警察が捜査開始

要点まとめ

シドニーでの事件概要

シドニーの私立高校で、AIを使用して作成された女子生徒の深層偽装（ディープフェイク）ポルノ画像が拡散される事件が発生した。被害に遭ったのは14歳から16歳の10代の女子生徒で、学校は被害を受けた生徒たちへのカウンセリング支援を開始した。

警察が名前を挙げていない男子学生は、ソーシャルメディアのアカウントや学校のイベントから写真をスクレイピングして、複数の女子学生の露骨なAI画像を生成したとされています。その後、彼は偽のソーシャルメディアのプロフィールを通じてコンテンツを配布したと地元メディアは報じている。

ニューサウスウェールズ州警察は「不適切な画像がオンラインで作成および配布されている」という報告を受けて操作を開始した。地元メディアによれば学校は「12年生の男子生徒が人工知能を使用して、あなたの娘や他の人に似せたプロフィールを作成したとされていることを認識しています」と保護者へ連絡をしている。

ロンドンに拠点を置く非営利団体Internet Mattersの調査によると、英国では53万人のティーンエイジャーがヌードのディープフェイクに遭遇したことがあると報じている。

同様の事例は、ワシントン州シアトルやニュージャージー州など各地で報告されており、ディープフェイク・ポルノの作成などで、学生が逮捕される事件が多く発生している。

ここで取り上げた各地では警察が事件の捜査を開始している。これを受けてAIを使用したディープフェイク画像の作成と拡散に対する規制強化の必要性を訴える動きが強まっている。

オンライン安全の専門家らは、AIによる深層偽装の作成が容易になっており、特に未成年者を標的とした被害が急増していると警告している。また、一度オンライン上に拡散された画像の完全な削除が極めて困難である点も指摘されている。

オーストラリア上院は2023年8月、合意のないディープフェイクポルノを対象とした法案を可決し、米国では「親密な画像のディープフェイク防止法」を提唱しています。それ以外にもディープフェイク説明責任法、シンガポールのディープフェイク防止法、EU AI法などがあります。