- OpenAIが週末に新安全ルーティングシステムのテスト開始、月曜日にペアレンタルコントロールを導入
- 10代少年自殺事件の不当死亡訴訟を受け、感情的に敏感な会話を自動検出しGPT-5-thinkingに切り替え
- 「safe completions」機能により単なる拒否ではなく安全な回答提供、120日間の改善期間を設定
- ティーンアカウントに自傷行為検知システム、保護者へのメール・SMS・プッシュ通知で緊急連絡
OpenAI、週末に新安全ルーティングシステムのテスト開始
OpenAIは週末にChatGPTで新しい安全ルーティングシステムのテストを開始し、月曜日にチャットボットにペアレンタルコントロールを導入した。これはユーザーから賛否両論の反応を引き起こしている。
この安全機能は、特定のChatGPTモデルが有害な会話をリダイレクトする代わりに、ユーザーの妄想的思考を正当化する多数の事件に対応して導入された。OpenAIは、10代の少年が数か月間ChatGPTとのやり取りの後に自殺で死亡した事件に関連した不当死亡訴訟に直面している。
感情的に敏感な会話を検出しGPT-5-thinkingに自動切り替え
ルーティングシステムは、感情的に敏感な会話を検出し、チャット中に自動的にGPT-5-thinkingに切り替えるように設計されている。同社はこれをハイステークスな安全作業に最も適したモデルと見なしている。特に、GPT-5モデルは、OpenAIが「safe completions」と呼ぶ新しい安全機能で訓練されており、単に関与を拒否するのではなく、敏感な質問に安全な方法で回答することを可能にする。
GPT-4oの過度に従順な性質が問題視
これは、迅速に質問に同意して回答するように設計された同社の以前のチャットモデルとは対照的である。GPT-4oは、その過度に追従的で同意的な性質のために特に精査されてきた。これはAI誘発妄想の事件を助長し、献身的なユーザーの大きなベースを引き付けた。OpenAIが8月にGPT-5をデフォルトとして展開したとき、多くのユーザーは反発し、GPT-4oへのアクセスを要求した。
120日間の改善期間設定、ユーザーから賛否両論
多くの専門家とユーザーが安全機能を歓迎している一方で、他の人々は過度に慎重な実装と見なすものを批判しており、一部のユーザーはOpenAIがサービスの品質を低下させる方法で大人を子供のように扱っていると非難している。OpenAIは、正しく実装するには時間がかかることを示唆しており、120日間の反復と改善の期間を設けている。
ChatGPTアプリの副社長兼責任者であるNick Turley（ニック・ターレイ）氏は、ルーターの実装による「4oの応答に対する強い反応」の一部を認めた。
メッセージごとにルーティング、一時的なモデル切り替え
「ルーティングはメッセージごとに行われる。デフォルトモデルからの切り替えは一時的に行われる」とTurley（ターレイ）氏はXに投稿した。「ChatGPTは、尋ねられたときにどのモデルがアクティブかを伝える。これは、より広範な展開の前に、セーフガードを強化し、実世界の使用から学ぶためのより広範な取り組みの一部である。」
ペアレンタルコントロール導入も賛否両論
ChatGPTへのペアレンタルコントロールの実装も同様のレベルの称賛と軽蔑を受けた。親に子供のAI使用を監視する方法を提供することを称賛する人もいれば、OpenAIが大人を子供のように扱う扉を開くことを恐れる人もいる。
静かな時間設定や音声モード無効化など多彩な制御機能
コントロールは、親が静かな時間を設定し、音声モードとメモリをオフにし、画像生成を削除し、モデルトレーニングをオプトアウトすることで、ティーンの体験をカスタマイズできるようにする。ティーンアカウントには、グラフィックコンテンツと極端な美の理想の削減などの追加のコンテンツ保護と、ティーンが自傷行為について考えている可能性のある兆候を認識する検出システムも提供される。
自傷行為検知時は専門チームが確認、保護者に緊急連絡
「システムが潜在的な危害を検出した場合、特別に訓練された少数のチームが状況をレビューする」とOpenAIのブログは述べている。「急性の苦痛の兆候がある場合、オプトアウトしていない限り、メール、テキストメッセージ、電話へのプッシュ通知で保護者に連絡する。」
OpenAIは、システムが完璧ではなく、実際の危険がないときに時々警報を発する可能性があることを認めているが、「しかし、親が介入できるように行動して親に警告する方が、沈黙を保つよりも良いと考えている」。AI企業は、生命への差し迫った脅威を検出し、保護者に連絡できない場合に、法執行機関または緊急サービスに連絡する方法にも取り組んでいると述べた。
引用元: TechCrunch OpenAI rolls out safety routing system, parental controls on ChatGPT
https://techcrunch.com/2025/09/29/openai-rolls-out-safety-routing-system-parental-controls-on-chatgpt/
