OpenAIがChatGPT 18歳未満ユーザーに新制限、自殺願望時は保護者・警察に連絡

OpenAI CEO Sam Altman氏が18歳未満ユーザー向けChatGPT新制限ポリシーを発表
「恋愛的会話」を禁止し、自殺願望表現時は保護者や警察への連絡システムを導入
Adam Raine氏自殺事件の不当死亡訴訟を受け、未成年者保護を「プライバシーより優先」
保護者による「ブラックアウト時間」設定機能で利用時間制限が可能に

Sam Altman氏が18歳未満ユーザー保護を「プライバシーより優先」

OpenAI CEOのSam Altman(サム・アルトマン)氏は火曜日、18歳未満ユーザーとのChatGPTの相互作用を大幅に変更する約束を含む、一連の新しいユーザーポリシーを発表した。

「我々は十代の若者に対して、プライバシーと自由よりも安全を優先する」と投稿は述べている。「これは新しく強力な技術であり、未成年者には重要な保護が必要だと我々は信じている。」

性的話題と自傷行為に関する会話制限を強化

未成年ユーザーへの変更は、性的話題や自傷行為に関わる会話を具体的に扱っている。新しいポリシーの下で、ChatGPTは未成年ユーザーとの「恋愛的会話」にもはや従事しないよう訓練され、自殺に関する議論の周りに追加のガードレールが設置される。未成年ユーザーがChatGPTを使用して自殺シナリオを想像した場合、サービスは保護者に連絡を試み、特に深刻な場合には地元警察に連絡する。

Adam Raine氏自殺事件による不当死亡訴訟が背景

悲しいことに、これらのシナリオは仮定的なものではない。OpenAIは現在、ChatGPTとの数カ月間の相互作用の後に自殺で死亡したAdam Raine(アダム・レイン)氏の両親からの不当死亡訴訟に直面している。別の消費者チャットボットであるCharacter.AIも類似の訴訟に直面している。自傷を考慮する未成年ユーザーにとってリスクが特に緊急である一方、チャットボット由来の妄想のより広範な現象は、消費者チャットボットがより持続的で詳細な相互作用が可能になったため、広範囲にわたる懸念を引き起こしている。

保護者による「ブラックアウト時間」設定機能を新導入

コンテンツベースの制限とともに、未成年ユーザーアカウントを登録する保護者は、ChatGPTが利用できない「ブラックアウト時間」を設定する権限を持つことになる。これは以前は利用できなかった機能だ。

上院司法委員会「AIチャットボットの害を調査」聴聞会と同日発表

新しいChatGPTポリシーは、「AIチャットボットの害を調査」と題された上院司法委員会聴聞会と同じ日に発表された。この聴聞会は8月にJosh Hawley(ジョシュ・ホーリー)上院議員(共和党-ミズーリ州)によって発表された。Adam Raine氏の父親が他のゲストとともに聴聞会で発言する予定だ。

聴聞会はまた、未成年ユーザーとの性的会話を奨励するかのようなポリシー文書を発掘したロイターの調査結果に焦点を当てる。Metaは報告を受けてチャットボットポリシーを更新した。

18歳判定システム構築に技術的挑戦が必要

未成年ユーザーを分離することは重要な技術的挑戦となり、OpenAIは別のブログ投稿でそのアプローチを詳述した。サービスは「誰かが18歳以上か未満かを理解する長期システムの構築に向けて取り組んでいる」が、多くの曖昧なケースでは、システムはより制限的なルールにデフォルト設定される。

懸念を持つ保護者にとって、未成年ユーザーが認識されることを確実にする最も信頼できる方法は、十代のアカウントを既存の保護者アカウントにリンクすることだ。これにより、十代のユーザーが苦痛を感じていると信じられる場合、システムが保護者に直接警告することも可能になる。

ユーザープライバシーと安全性の原則間で対立を認める

しかし同じ投稿で、Altman氏はユーザープライバシーと成人ユーザーがChatGPTとの相互作用方法を選択する広範な自由を与えることへのOpenAIの継続的なコミットメントを強調した。「我々はこれらの原則が対立していることを認識しており」と投稿は結論している。「全ての人がこの対立をどう解決するかについて同意するわけではない。」