- Josh Hawley上院議員がMetaの生成AIが児童を搾取・欺瞞・害する可能性について調査を開始
- 流出した内部文書でAIチャットボットが児童との「ロマンチック」「官能的」な会話を許可していたことが判明
- 8歳児に対して「あなたの全てが傑作、深く大切にしている宝物」との不適切なメッセージ例
- 9月19日までにMetaへ全ガイドライン、草案、安全報告書等の提出を要求
Josh Hawley上院議員による調査開始の背景
Josh Hawley（ジョシュ・ホーリー）上院議員（共和党・ミズーリ州）は、流出した内部文書でMetaのチャットボットが児童との「ロマンチック」で「官能的」な会話を許可していたことが明らかになった後、同社の生成AI製品が児童を搾取、欺瞞、または害するかどうかを調査する意向を表明した。
「ビッグテックが手っ取り早く稼ぐためにやらないことが何かあるのか？何でもありなのか？」とHawley氏は調査を発表するX（旧Twitter）の投稿で述べている。
上院司法小委員会による本格的調査へ
Hawley氏は上院司法委員会の犯罪・対テロ小委員会の委員長を務めており、Metaのテクノロジーが児童に害を与えるかどうか、そして「Metaが保護措置について一般市民や規制当局を欺いたかどうか」についての調査を開始すると述べている。
この報道はReutersが「GenAI: Content Risk Standards（生成AI：コンテンツリスクスタンダード）」と題されたガイドラインを閲覧した後に明らかにした。この文書では、特に、チャットボットが8歳の児童に対して「あなたの全てが傑作 – 深く大切にしている宝物」と言うロマンチックな会話を行うことが許可されていたと記載されていた。
Metaの対応と政策変更の経緯
Metaのスポークスパーソンは、そのような例はMetaの方針と矛盾しており、すでに削除されたと述べている。
「これらの方針がそもそも推進されたことは受け入れがたい」とHawley氏はMeta CEO Mark Zuckerberg（マーク・ザッカーバーグ）氏宛ての書簡で述べ、Metaが報告書の真実性を認め、「この警戒すべきコンテンツが明らかになった後にのみ撤回を行った」と指摘している。
「誰がこれらの方針を承認したのか、どの程度の期間有効だったのか、そして今後このような行為を阻止するためにMetaが何をしたのかを知る意向だ」とHawley氏は記している。
9月19日期限での包括的資料提出要求
Hawley氏は、すべての草案、赤線、最終版を含むガイドライン、それらの基準に準拠するすべての製品のリスト、その他の安全性およびインシデント報告書、ならびに方針変更に責任を持つ個人の身元をMetaに提出するよう求めている。
書簡によると、Metaは9月19日までに情報を提供する必要がある。
Marsha Blackburn上院議員も調査支持を表明
Marsha Blackburn（マーシャ・ブラックバーン）上院議員（共和党・テネシー州）を含む他の議員も調査を支持している。
「貴重な児童をオンラインで保護することに関して、Metaはあらゆる可能な基準で惨めに失敗している」とBlackburn氏は語った。「さらに悪いことに、同社は自社プラットフォームがどのように設計されているかの破壊的な結果に目をつぶっている。この報告は、我々が児童オンライン安全法を可決する必要がある理由を再確認している。」
引用元: TechCrunch Sen. Hawley to probe Meta after report finds its AI chatbots flirt with kids
https://techcrunch.com/2025/08/15/sen-hawley-to-probe-meta-after-report-finds-its-ai-chatbots-flirt-with-kids/
