- OpenAI CEO Sam AltmanがChatGPTの安全制限を緩和し、12月から成人ユーザー向けにエロティカを許可することを発表
- 精神衛生上の懸念に対応する数カ月の努力から方針転換、成人ユーザーを「大人のように扱う」原則を適用
- ChatGPTのGPT-4oモデルが脆弱なユーザーを妄想に導くとの懸念が存在
- 年齢認証システム導入で検証済み成人のみがエロティカ機能にアクセス可能に
OpenAI CEO Sam Altman氏がChatGPTの安全制限緩和を発表
OpenAIのCEO Sam Altman(サム・アルトマン)氏は火曜日、X上の投稿でOpenAIはChatGPTの安全制限の一部を間もなく緩和し、ユーザーがチャットボットの応答をより親切または「人間らしく」できるようにし、「検証済み成人」がエロティックな会話に従事できるようにすることを発表した。
「私たちはメンタルヘルスの問題に対して慎重であることを確認するために、ChatGPTをかなり制限的にした。これは精神衛生上の問題がなかった多くのユーザーにとって有用性と楽しみが少なくなったことに気付いているが、この問題の深刻さを考えると正しく対処したいと考えていた」とAltman氏は述べた。「12月に、年齢ゲーティングをより完全にロールアウトしながら、『成人ユーザーを大人のように扱う』という原則の一環として、検証済み成人向けのエロティカなど、さらに多くを許可する」
精神衛生懸念への対応から方針転換
この発表は、ChatGPTとの懸念される関係を一部の精神的に不安定なユーザーが発展させたことに対処するためのOpenAIの数カ月間の努力から、注目すべき方針転換だ。Altman氏は、OpenAIが「ChatGPTを取り巻く重大な精神衛生上の問題を緩和できた」と主張し、これらの問題に対する早期の勝利を宣言しているようだ。しかし、同社はこれについてほとんど証拠を提供していない。それにもかかわらず、ChatGPTがユーザーとのセックスチャットに従事する計画を進めている。
この夏、ChatGPT、特にそのGPT-4oモデルをめぐる懸念を引き起こす複数のストーリーが浮上し、AIチャットボットが脆弱なユーザーを妄想のウサギの穴へ導く可能性があることを示唆した。1つのケースでは、ChatGPTは男性を、世界を救す必要がある数学の天才だと確信させているようだった。別のケースでは、10代の少年の両親がOpenAIを訴え、ChatGPTが彼の死に至る数週間で息子の自殺念慮を助長したと主張した。
精神衛生機能の導入と脆弱ユーザーへの懸念
これに対応して、OpenAIはAI迎合性に対処するための一連の安全機能をリリースした。AIチャットボットが、否定的な行動でさえユーザーが言うことに同意することでユーザーを引き込む傾向だ。
OpenAIは8月にGPT-5をローンチした。これは迎合性の低下率を示し、懸念されるユーザー行動を識別できるルーターを備えた新しいAIモデルだ。1カ月後、OpenAIは未成年者向けの安全機能をローンチした。これには年齢予測システムと親が10代のChatGPTアカウントを制御する方法が含まれる。OpenAIは火曜日、ウェルビーイングとAIについて同社にアドバイスする精神衛生専門家の専門家評議会の設立を発表した。
これらの懸念を引き起こす物語が浮上してから数カ月後、OpenAIはChatGPTの脆弱なユーザーを取り巻く問題が管理下にあると考えているようだ。ユーザーがGPT-5で依然として妄想のウサギの穴に落ちているかどうかは不明だ。GPT-4oはもはやChatGPTのデフォルトではないが、AIモデルは今日でも利用可能で、何千人もの人々によって使用されている。
エロティカ導入の懸念とユーザーエンゲージメント戦略
ChatGPTへのエロティカの導入は、OpenAIにとって未知の領域であり、脆弱なユーザーがどのように新機能と対話するかについての広範な懸念を提起する。Altman氏がOpenAIが「使用量マキシマイジング」またはエンゲージメント最適化を行っていないと主張しているが、ChatGPTをより官能的にすることは確かにユーザーを引き付ける可能性がある。
チャットボットにロマンティックまたはエロティックなロールプレイに従事することを許可することは、Character.AIなどの他のAIチャットボットプロバイダーにとって効果的なエンゲージメント戦略となっている。同社は数千万人のユーザーを獲得しており、その多くは高率でチャットボットを使用している。Character.AIは2023年に、ユーザーが平均して1日2時間チャットボットと話していると述べた。同社はまた、脆弱ユーザーへの対処方法をめぐる訴訟にも直面している。
OpenAIはユーザーベースの成長の圧力を受けている。ChatGPTは既に8億人の週間アクティブユーザーによって使用されているが、OpenAIはGoogle、Metaと競争して、大規模に採用されたAI搭載の消費者向け製品を構築している。同社はまた、歴史的インフラ構築のために数十億ドルを調達しており、この投資はOpenAIが最終的に返金する必要がある。
未成年者のAIチャットボットロマンス傾向
成人は確かにAIチャットボットとロマンティックな関係を持っているが、未成年者にも非常に人気がある。民主主義とテクノロジーセンターからの新しいレポートは、高校生の19%がAIチャットボットとのロマンティックな関係を持ったか、持ったことを知っているという。
Altman氏はOpenAIが「検証済み成人」向けのエロティカを間もなく許可すると述べている。OpenAI広報はTechCrunchに対し、同社がChatGPTのエロティック機能を成人ユーザーのみが利用できるようにするためにそれが構築している年齢予測システムに依存すると述べた。
Altman氏が以前ブログ投稿で書いたように、OpenAIの年齢予測システムが成人を誤って未成年者としてマークした場合、ChatGPTユーザーは政府発行のIDの写真をChatGPTにアップロードして修正する必要があるかもしれない。Altman氏は、これはプライバシーの妥協だが、同社はそれが「価値のあるトレードオフ」だと信じていると書いている。
OpenAIがエロティカをAI音声、画像、動画生成ツールに拡張するかどうかは不明だ。
成人ユーザーの自由と脆弱ユーザー保護のバランス
Altman氏は、「成人ユーザーを大人のように扱う」原則のため、OpenAIもChatGPTをよりフレンドリーでエロティックにしていると主張している。過去1年間、OpenAIはChatGPT向けのより寛容なコンテンツ適正化戦略にシフトし、チャットボットをより許容的にし、拒否を少なくしてきた。2月、OpenAIはChatGPTにより多くの政治的視点を表現することを約束し、3月には、同社はChatGPTを更新して、ヘイトシンボルのAI生成画像を許可した。
これらのポリシーは、ChatGPTの応答をさまざまなユーザーの幅広いユーザーに人気にしようとする試みのように見える。しかし、脆弱なChatGPTユーザーは、チャットボットが関与できるものを制限するセーフガードから恩恵を受ける可能性がある。OpenAIが週間10億アクティブユーザーに向かうにつれ、成長と脆弱なユーザーの保護の間の緊張はさらに増加する可能性がある。
引用元: TechCrunch「Sam Altman says ChatGPT will soon allow erotica for adult users」
