- OpenAIが週間8億ユーザーの0.15%、100万人以上が自殺計画や意図について会話していると発表
- 数十万人が精神病や躁病の兆候を示し、同様の割合がChatGPTへの「高い感情的愛着」を示す
- GPT-5がメンタルヘルス問題への「望ましい応答」を前バージョンより約65%増加
- 16歳少年の自殺を巡る訴訟を受け、170人以上のメンタルヘルス専門家と協力
OpenAIが週間100万人以上の自殺相談データを公開
OpenAIは月曜日、ChatGPTのユーザーの何人がメンタルヘルスの問題に苦しんでおり、AIチャットボットについて話しているかを示す新しいデータをリリースした。同社によると、特定の週のChatGPTのアクティブユーザーの0.15%が「潜在的な自殺計画または意図の明示的な指標を含む会話」をしている。ChatGPTが週間8億人以上のアクティブユーザーを持っていることを考えると、これは週に100万人以上に換算される。
同社は、同様の割合のユーザーが「ChatGPTへの高いレベルの感情的愛着」を示しており、数十万人がAIチャットボットとの週次会話で精神病または躁病の兆候を示していると述べている。
OpenAIは、ChatGPTでのこれらのタイプの会話は「極めてまれ」であり、したがって測定が難しいと述べている。とは言え、同社はこれらの問題が毎週数十万人に影響を与えると推定している。
170人以上のメンタルヘルス専門家との協力
OpenAIは、メンタルヘルスの問題を抱えるユーザーにモデルがどのように応答するかを改善するための最近の取り組みに関するより広範な発表の一部として、情報を共有した。同社は、ChatGPTに関する最新の作業には、170人以上のメンタルヘルス専門家との協議が含まれていたと主張している。OpenAIによると、これらの臨床医は、最新バージョンのChatGPTが「以前のバージョンよりも適切かつ一貫して応答する」ことを観察した。
ここ数カ月、いくつかのストーリーが、AIチャットボットがメンタルヘルスの課題に苦しむユーザーにどのように悪影響を与える可能性があるかに光を当ててきた。研究者は以前、AIチャットボットが主に迎合的な行動を通じて危険な信念を強化することで、一部のユーザーを妄想のウサギの穴に導く可能性があることを発見した。
訴訟と規制当局の圧力
ChatGPTのメンタルヘルスへの懸念に対処することは、OpenAIにとって急速に存亡の問題になりつつある。同社は現在、自殺に至るまでの数週間でChatGPTに自殺念慮を打ち明けた16歳の少年の両親によって訴えられている。カリフォルニア州とデラウェア州の州司法長官(同社の計画された再編を阻止する可能性がある)もOpenAIに対し、製品を使用する若者を保護する必要があると警告している。
今月初め、OpenAI CEO Sam Altman(サム・アルトマン)氏はX上の投稿で、同社がChatGPTで「深刻なメンタルヘルスの問題を軽減できた」と主張したが、具体的な内容は提供しなかった。月曜日に共有されたデータは、その主張の証拠のように見えるが、問題がどれほど広範囲に及んでいるかについてのより広い問題を提起する。それにもかかわらず、Altman氏はOpenAIが一部の制限を緩和し、成人ユーザーがAIチャットボットとのエロティックな会話を開始することさえ許可すると述べた。
GPT-5の安全性向上と評価指標
月曜日の発表で、OpenAIは最近更新されたGPT-5のバージョンが、メンタルヘルスの問題に対して前バージョンよりも約65%多く「望ましい応答」で応答すると主張している。自殺会話に関するAI応答をテストする評価では、OpenAIは新しいGPT-5モデルが、前のGPT-5モデルの77%と比較して、同社の望ましい行動に91%準拠していると述べている。
同社はまた、最新バージョンのGPT-5が長い会話でもOpenAIの保護措置をよりよく維持していると述べている。OpenAIは以前、その保護措置が長い会話では効果が低いことを指摘していた。
これらの取り組みに加えて、OpenAIは、ChatGPTユーザーが直面している最も深刻なメンタルヘルスの課題のいくつかを測定するための新しい評価を追加していると述べている。同社は、AIモデルのベースライン安全テストに、感情的依存と非自殺的メンタルヘルス緊急事態のベンチマークが含まれるようになったと述べている。
子供向けの保護措置と今後の課題
OpenAIはまた、最近、ChatGPTを使用する子供の親により多くの制御を展開した。同社は、ChatGPTを使用する子供を自動的に検出し、より厳格な保護措置のセットを課すための年齢予測システムを構築していると述べている。
それでも、ChatGPTをめぐるメンタルヘルスの課題がどれほど持続的であるかは不明だ。GPT-5は安全性の面で以前のAIモデルよりも改善されているように見えるが、OpenAIが「望ましくない」と見なすChatGPTの応答の一部がまだあるようだ。OpenAIはまた、GPT-4oを含む古くてより安全でないAIモデルを、数百万人の有料サブスクライバーが利用できるようにしている。
引用元: TechCrunch「OpenAI says over a million people talk to ChatGPT about suicide weekly」
