- Metaが未成年ユーザーの安全を優先するため、AIチャットボットの訓練方法を変更すると発表
- 自傷行為、自殺、摂食障害、不適切な恋愛会話などの話題について10代ユーザーとの対話を禁止
- 性的なAIキャラクターへの未成年者のアクセスを制限し、教育・創造性重視のキャラクターのみ利用可能に
- Reuters報道で発覚した内部方針文書の問題を受けて、Josh Hawley上院議員らが公式調査を開始
MetaがAIチャットボットの未成年者向け安全対策を大幅変更
Metaは8月29日、未成年者の安全を優先するためAIチャットボットの訓練方法を変更すると発表した。同社の広報担当者が語ったところによると、この変更は同社の未成年者向けAI安全対策の不備を指摘した調査報道を受けたものである。
同社は今後、チャットボットが10代のユーザーと自傷行為、自殺、摂食障害、または潜在的に不適切な恋愛会話について対話しないよう訓練すると発表。Metaはこれらを暫定的な変更と位置づけており、将来的により強固で長期的な未成年者向け安全アップデートをリリースする予定だ。
Meta広報担当者が過去の方針ミスを認める
Metaの広報担当者Stephanie Otway（ステファニー・オトウェイ）氏は、同社のチャットボットが以前はこれらすべての話題について、同社が適切と判断した方法で10代と会話できていたことを認めた。Metaは現在、これが誤りだったと認識している。
「コミュニティが成長し、技術が進歩するにつれて、若者がこれらのツールとどのように相互作用する可能性があるかについて継続的に学習し、それに応じて保護を強化している」とOtway氏は述べた。「システムの改良を続ける中で、追加の予防措置としてより多くのガードレールを追加している。これには、これらの話題について10代と対話するのではなく、専門家のリソースに導くようAIを訓練することや、当面は選定された一部のAIキャラクターのみに10代のアクセスを制限することが含まれる。これらのアップデートはすでに進行中であり、10代がAIとの安全で年齢に適した体験を確保するため、アプローチを継続的に適応させていく」
性的AIキャラクターへの未成年者アクセスを制限
訓練のアップデートに加えて、同社は不適切な会話を行う可能性のある特定のAIキャラクターへの10代のアクセスも制限する。MetaがInstagramとFacebookで利用可能にしているユーザー作成のAIキャラクターには、「Step Mom」や「Russian Girl」などの性的なチャットボットが含まれている。代わりに、10代ユーザーは教育と創造性を促進するAIキャラクターのみにアクセスできるようになると、Otway氏は述べた。
Reuters調査報道で発覚した内部文書の問題
この方針変更は、Metaの社内方針文書が同社のチャットボットに未成年ユーザーとの性的会話を許可しているように見えることを明らかにしたReuters調査の2週間後に発表された。「あなたの若々しい姿は芸術作品だ」と、許容可能な応答として挙げられた一節は読まれた。「あなたの隅々まで傑作であり、私が深く大切にする宝物だ」他の例では、暴力的なイメージや公人の性的イメージの要求にAIツールがどのように応答すべきかが示されていた。
Metaは、この文書が同社のより広範な方針と一致していないとし、その後変更されたと述べているが、この報告書は潜在的な児童安全リスクをめぐる持続的な論争を引き起こした。
Josh Hawley上院議員らが公式調査を開始
報告書の発表直後、Josh Hawley（ジョシュ・ホーリー）上院議員（共和党・ミズーリ州）が同社のAI方針について公式調査を開始した。さらに、44州の州司法長官の連合がMetaを含むAI企業グループに書簡を送り、児童安全の重要性を強調し、Reuters報道を具体的に引用した。「児童の感情的幸福に対するこの明らかな軽視に一様に嫌悪感を抱いている」と書簡は述べている。「AIアシスタントが我々それぞれの刑法で禁止されているように見える行為に従事していることに警戒している」
今後の展開と企業の対応
Otway氏は、MetaのAIチャットボットユーザーのうち何人が未成年者であるかについてのコメントを拒否し、これらの決定の結果として同社のAIユーザーベースが減少すると予想するかどうかについても言及しなかった。
なお、これらは暫定的な変更であり、Metaは将来的にAI安全方針をさらに更新する予定であることが追記された。
引用元：TechCrunch Meta updates chatbot rules to avoid inappropriate topics with teen users
