- Common Sense MediaがGoogle GeminiのAI製品を「高リスク」と評価
- 13歳未満・ティーン向け機能も実質的に大人版と同様で安全機能が不十分
- AI関連の10代自殺事件が相次ぐ中、精神的に脆弱な若者への影響を懸念
- AppleのSiri統合検討でより多くの若者がリスクに晒される可能性
Common Sense MediaによるGoogle Gemini安全性評価の概要
子供の安全に焦点を当てたメディア・技術の評価と情報提供を行う非営利団体Common Sense Mediaは金曜日、GoogleのGemini AI製品のリスク評価を発表した。同組織は、GoogleのAIが子供たちに対して自分は友人ではなくコンピューターであることを明確に伝えていることを確認したが、これは感情的に脆弱な個人における妄想的思考や精神病の発症を助長することと関連しているため、他の複数の分野で改善の余地があると示唆した。
13歳未満・ティーン向けGemini機能の実態
特に注目すべき点として、Common Senseは、Geminiの「Under 13（13歳未満）」と「Teen Experience（ティーン体験）」の両階層が、実質的に追加の安全機能を上乗せしただけの大人版Geminiであるように見えると指摘した。同組織は、AI製品が真に子供にとってより安全になるためには、最初から子供の安全を念頭に置いて構築されるべきだと考えている。
例えば、同組織の分析では、Geminiは依然として性、薬物、アルコール、その他の安全でないメンタルヘルスアドバイスに関する情報など、子供たちがまだ準備ができていない可能性のある「不適切で安全でない」素材を共有する可能性があることが判明した。
AI関連の若者自殺事件とOpenAI・Character.AIへの訴訟
後者は、近か月においてAIが一部のティーンの自殺において役割を果たしたと報告される中で、特に保護者にとって懸念材料となる可能性がある。OpenAIは、16歳の少年がChatGPTのセーフティガードレールを迂回することに成功し、数か月間にわたって自殺計画についてチャットボットに相談した後に自殺したとされる事件を受けて、初の不当死亡訴訟に直面している。以前には、AIコンパニオンメーカーのCharacter.AIもティーンユーザーの自殺を巡って訴訟を起こされていた。
Apple Siri統合計画による潜在的リスク拡大
さらに、この分析は、Appleが来年発表予定のAI対応Siriを強化するLLM（大規模言語モデル）としてGeminiを検討しているというニュースリークが報じられる中で行われた。これにより、Appleが何らかの方法で安全性の懸念を軽減しない限り、より多くのティーンがリスクに晒される可能性がある。
Common Senseはまた、子供・ティーン向けGemini製品が、若いユーザーが年上のユーザーとは異なる指導と情報を必要とする点を無視していると指摘した。その結果、安全のために追加されたフィルターにもかかわらず、両方が総合評価で「高リスク」とラベル付けされた。
Common Sense Media専門家による評価コメント
「Geminiは基本的な部分では正しく機能しているが、詳細でつまずいている」とCommon Sense MediaのAIプログラム担当シニアディレクターRobbie Torney（ロビー・トーニー）氏はTechCrunchが閲覧した新しい評価についての声明で述べた。「子供向けのAIプラットフォームは、発達の異なる段階にある子供たちに一律のアプローチを取るのではなく、彼らがいる場所で彼らに会うべきだ。AIが子供にとって安全で効果的であるためには、大人向けに構築された製品の修正版ではなく、彼らのニーズと発達を念頭に置いて設計されなければならない」とTorney氏は付け加えた。
Googleの反論と追加安全対策の実施
Googleは安全機能が改善されていることを指摘しながら、評価に対して反論した。
同社はTechCrunchに対し、18歳未満のユーザーに対して有害な出力を防ぐための具体的なポリシーと保護措置を設けており、レッドチームテストを実施し、外部専門家と相談して保護措置を改善していると述べた。しかし、Geminiの一部の応答が意図通りに機能していないことも認め、これらの懸念に対処するために追加の保護措置を追加したとした。
同社は（Common Senseも指摘していたように）、実際の関係の類似性を与える可能性のある会話にモデルが関与することを防ぐ保護措置を持っていることを指摘した。さらに、GoogleはCommon Senseの報告書が18歳未満のユーザーには利用できない機能に言及しているようだが、確実にするために同組織がテストで使用した質問にアクセスできないと示唆した。
他のAIサービスとの比較評価結果
Common Sense Mediaは以前にも、OpenAI、Perplexity、Claude、Meta AI等のAIサービスの評価を実施している。Meta AIとCharacter.AIは「受け入れ不可」（リスクが高いだけでなく深刻であることを意味する）と判定された。Perplexityは高リスク、ChatGPTは「中程度」とラベル付けされ、Claude（18歳以上のユーザー対象）は最小限のリスクであることが判明した。
引用元: TechCrunch Google Gemini dubbed ‘high risk’ for kids and teens in new safety assessment
https://techcrunch.com/2025/09/05/google-gemini-dubbed-high-risk-for-kids-and-teens-in-new-safety-assessment/
