- 生成AIで作成された「性的ディープフェイク」がインターネット上で急増し、日本で非実在のわいせつ画像を販売したとして初の全国摘発事例が発生した。
- 被害は実在・非実在の人物に関わらず深刻化しており、特にAIアプリ利用で容易に作成できるため、子どもを狙った悪用が問題となっている。
- 米国でAIによる性的偽動画の投稿禁止法が成立したほか、韓国、英国、ユーロポールなど各国・機関で法規制の強化や摘発が進められている。
生成人工知能（AI）で作成したわいせつな画像や動画、いわゆる「性的ディープフェイク」がインターネット空間に氾濫し、世界各国で深刻な問題となっている。技術の加速度的な進歩により、こうした画像の作成が極めて容易になったことがその背景にある。警視庁保安課は5月、非実在の成人女性のわいせつな画像を生成AIツールで作成し、ポスターとしてネットオークションで販売したとして、20～50代の男女4人を逮捕した。生成AIで作成したわいせつ物の販売事件の摘発は全国初となる。
深刻化する性的ディープフェイクの被害実態
性的ディープフェイクには、実在する人物の画像などを悪用してわいせつに加工したものと、すべてAIによって架空の人物として作られたものの2種類がある。実在する人物のケースでは、過去に女性の画像をAIで裸に見えるよう加工し、X（旧ツイッター）に投稿した男子大学生が名誉毀損容疑で書類送検されるといった摘発例がある。今回摘発された4人は、ネット上で無料で提供されている画像生成AIツールを使い、女性の体のデータを読み込ませたり、「脚を開く」といった指示文を入力したりして、実在しない成人女性の裸の画像を作成していた。これを紙に印刷し、「AI美女」「一点物」などと称してポスターとして販売し、約1年で約1千万円を売り上げた者もいたという。
被害は身近な人々にも及ぶ。米ニュージャージー州の高校では昨年10月、少なくとも女子生徒30人の「裸画像」が学校内で出回る事件が発生した。被害者の一人、フランチェスカ・マニさんは「こんなことが自分の身に起こるなんて考えもしなかった」とショックを語る。作成したのは同級生の男子生徒で、SNS上の画像を「服を脱がすAIアプリ」で加工し、他の生徒らと共有していたという。かつての「アイコラ」のような合成画像では、編集に一定の知識や技術が必要だったが、今では生成AIアプリやサイトに画像をアップロードするだけで数十秒程度で作成できてしまう。この作成ハードルの低下が、被害急拡大の大きな要因となっている。
各国で進む法規制と摘発強化
性的ディープフェイクは世界的な課題として認識され、各国で法規制や摘発の強化が進められている。米セキュリティー会社「セキュリティー・ヒーロー」の調査によると、2023年にネット上で確認されたディープフェイク動画は9万5820件に上り、そのうち98％が性的なものだった。国籍別の被害では韓国が53％、米国が20％で、日本は10％と3番目に多い。
被害が深刻化する韓国では、ソウル大学の卒業生の男らが卒業アルバムなどを悪用し、同窓生を含む60人以上の女性の性的ディープフェイク画像を流布した事件が起訴された後、ディープフェイクの所持や視聴が厳罰化された。
英国は今年、子どもの性的ディープフェイクを生成するAIツールの作成や所持などを世界で初めて違法とする法律を制定する方針を示している。
国際的な摘発も強化されている。欧州刑事警察機構（ユーロポール）は今年、生成AIによって作成された児童虐待画像をインターネット上で販売したなどとして、容疑者25人を摘発した。今年2月、日本で開かれた子どもの性被害防止セミナーでは、ユーロポールの捜査官が「AIの脅威は無視できない。社会で議論が必要だ」と警鐘を鳴らした。
米国ではトランプ大統領が5月19日、AIを使った巧妙な偽動画「ディープフェイク」などによる性的な情報をインターネット上に投稿するのを禁じる法案に署名した。この法案は、ディープフェイクを含むあらゆる性的な内容の画像を本人の同意なく公開することを連邦法違反と定め、被害者の要請を受けてから48時間以内に投稿を削除するようSNS事業者などに義務付けている。署名式に立ち合ったメラニア夫人は、AIとSNSを中毒性のある「次世代のデジタルキャンディー」とたとえ、その危険性を訴え、超党派の支持を呼びかけていた。
引用元：
