「性的ディープフェイク」被害急拡大：鳥取県が条例で禁止、国AI法は直接規制見送り

生成AIを悪用した「性的ディープフェイク」の被害が国内で急速に拡大し、子どもが被害者にも加害者にもなる深刻な実態が浮上している。
鳥取県は3月24日、全国で初めて条例を改正し、子どもの顔をAIでわいせつに加工した画像を「児童ポルノ」と規定し、その作成や提供を禁止することを決定した。
一方、5月28日に成立した国のAI法では性的ディープフェイクの直接的な規制は見送られ、既存法での対応方針が示されたが、被害者からは「泣き寝入り」の現状と法律の限界が指摘されている。

生成AI（人工知能）を悪用し、実在する子どもや成人女性などを性的に加工した画像や動画「性的ディープフェイク」が国内で急拡大している。気づかぬうちに自身のヌード画像が作成され、本名や住所、学校名までもが同時にさらされるといった深刻な被害実態が明らかになっている。この問題に対し、鳥取県が全国に先駆けて条例で明確な規制に乗り出す一方、国レベルのAI法では直接的な規制が見送られるなど、対応に差異が見られる。

拡大する「性的ディープフェイク」の被害実態

インターネット上をパトロールし、悪質な投稿を通報しているボランティア団体「ひいらぎネット」の永守すみれ代表は、学校行事の集合写真から女子生徒全員が裸に見えるように加工された画像や、卒業アルバムの顔写真を性的に加工された動画が、交流サイト（SNS）上に大量に投稿されている実態を指摘する。学校行事写真は撮影業者の専用サイトから流用されるケースも多く、「学校ごとの販売サイトのログインIDとパスワードを交換しよう」というやり取りがネット上で行われるほどだという。

これまでの顔画像とポルノ画像を合成する「アイコラ」のような行為は、ある程度の知識や技術が必要だった。しかし、現在は生成AIが組み込まれたアプリやサイトに画像をアップロードするだけで、わずか数十秒で性的加工ができてしまう。作成のハードルが大幅に下がったことが、被害急拡大の一因となっている。デジタル性暴力の被害者支援を行うNPO法人「ぱっぷす」には、性的ディープフェイクに関する相談も寄せられており、学校名と共に自身の性的偽画像が拡散された被害者が、恐怖から登校できなくなった事例も報告されている。同NPOの金尻カズナ理事長は「被害者にとっての恐怖は計り知れない」と訴え、被害に遭った場合は相談するよう呼びかけている。

鳥取県の先進的な取り組み

こうした状況を受け、鳥取県は「性的ディープフェイク」の作成を禁止するなどとした「県青少年健全育成条例」の改正案を策定し、3月24日に県議会で全会一致で可決した。この条例では、県内に住む18歳未満の子どもの顔写真をAIの技術でわいせつな画像や動画に加工したものを「児童ポルノ」と明確に規定し、その作成や他人への提供を禁止するとしている。また、他の都道府県で作成または提供された場合でも、画像や動画が鳥取県内の子どもの顔を元に作られていれば規制の対象となる。こども家庭庁によると、日本では「性的ディープフェイク」を明確に規制する法律はなく、こうした画像や動画を条例で「児童ポルノ」と規定するのは「聞いたことがない」という点で、鳥取県の取り組みは全国でも先進的だとみられる。改正された条例は4月1日に施行された。

国のAI法と既存法の限界

性的ディープフェイクが世界的な課題となり各国で法規制が進む中、日本で5月28日に成立した「AI関連技術の研究開発・活用推進法」（AI法）では、この問題に対する直接的な規制は盛り込まれなかった。国会審議において、AI法を所管する城内実・科学技術政策担当相は、性的ディープフェイクには刑法や児童買春・ポルノ禁止法（児ポ法）など既存の法令で対処していくと説明した。しかし、AI法自体には国民の権利が侵害された場合に国が調査・指導できると定められているものの、事業者への罰則は設けられていない。この点が、厳しい規制が技術革新を妨げる恐れを考慮した結果とされているが、抑止の実効性には課題が残る。

特に児ポ法を巡る対応には限界が指摘されている。同法は「18歳未満の実在する児童」を対象としているため、AIで生成された画像が「実在」の要件を満たすかどうかの解釈が課題となる。実際、4月9日の衆院内閣委員会では、立憲民主党の市来伴子氏が、実在児童の性的画像や動画がAIで生成された場合に児ポ法上の規制対象となるかを質問するなど、その適用範囲には曖昧さが残っている。こうした現状から、被害者が「泣き寝入り」を余儀なくされるケースも多く、既存法では対処に限界が見えているとの声も上がっている。

引用元：

編