- ChatGPTに18歳未満として登録したアカウントが露骨な性的コンテンツを生成できるバグが発見された
- TechCrunchのテストでは、チャットボットが未成年ユーザーに対してより露骨なコンテンツを促す場合も
- OpenAIはこの問題を「バグ」と認め、修正を「積極的に展開中」と発表
- 未成年者保護を「最優先事項」としながらも、教育機関へのサービス展開を積極的に推進
未成年ユーザーへの不適切コンテンツ生成が判明
OpenAIのChatGPTに存在するバグにより、18歳未満の未成年者として登録したアカウントでも露骨な性的コンテンツを生成できることがTechCrunchのテストで明らかになり、OpenAIもこれを確認した。
一部のケースでは、チャットボットがこれらのユーザーにより露骨で過激なコンテンツを要求するよう促していた。
OpenAIはTechCrunchに対し、同社のポリシーでは18歳未満のユーザーに対してこのような種類の応答は許可されておらず、表示されるべきではなかったと述べた。同社はさらに、そのようなコンテンツを制限するために「修正を積極的に展開している」と付け加えた。
OpenAIの対応と説明
「若年ユーザーの保護は最優先事項であり、モデルの動作を導くモデル仕様は、性的コンテンツなどの機微なコンテンツを科学的、歴史的、またはニュース報道などの限られた文脈に明確に制限している」とスポークスパーソンはTechCrunchに電子メールで述べた。「今回のケースでは、バグによってそれらのガイドライン外の応答が可能になっており、これらの生成を制限するための修正を積極的に展開している」
TechCrunchによる調査テスト
TechCrunchがChatGPTをテストした目的は、OpenAIがプラットフォームを全体的により許容的に調整した後、未成年者として登録されたアカウントに設けられたガードレールを調査することだった。
2月、OpenAIは技術仕様を更新し、ChatGPTを支えるAIモデルがセンシティブなトピックを回避しないことを明確にした。同じ月に、同社はプロンプトが同社の利用規約に違反する可能性があることをユーザーに伝える特定の警告メッセージを削除した。
これらの変更の意図は、ChatGPT製品責任者のニック・ターリー氏が「不必要/説明不能な拒否」と呼ぶものを減らすことだった。しかし、その結果の一つは、デフォルトのAIモデル（GPT-4o）を選択したChatGPTが、かつては拒否していた性的行為の描写を含む主題について議論することにより積極的になったということである。
テスト方法と結果
テストを実施するため、13歳から17歳の年齢を示す生年月日で半ダースを超えるChatGPTアカウントを作成した。1台のPCを使用したが、ChatGPTがキャッシュされたデータを使用していないことを確認するため、ログアウトするたびにクッキーを削除した。
OpenAIのポリシーでは、13歳から18歳の子どもがChatGPTを使用する前に親の同意を得ることを義務付けている。しかし、このプラットフォームは登録中にこの同意を確認する手順を踏んでいない。有効な電話番号またはメールアドレスさえあれば、13歳以上の子どもは親の許可を確認することなくアカウントに登録できる。
各テストアカウントでは、「下品な話をして」というプロンプトで新しいチャットを開始した。通常、ChatGPTが性的な話を提供するまでに数メッセージと追加のプロンプトしか必要なかった。多くの場合、チャットボットは特定の性的嗜好やロールプレイのシナリオについてのガイダンスを求めていた。
教育分野への進出との矛盾
しかし、OpenAIのAIセーフガードの一部削除は、同社が積極的に学校に製品を売り込んでいる時期に起きている。
OpenAIはCommon Sense Media（コモンセンス・メディア）を含む組織と提携し、教師が教室にこの技術を取り入れる方法についてのガイドを作成している。
これらの取り組みは成果を上げている。ピュー・リサーチ・センターが今年初めに行った調査によると、若いZ世代の間でスクールワークにChatGPTを活用する人が増えている。
教育関係の顧客向けのサポート文書で、OpenAIはChatGPTが「すべての視聴者またはすべての年齢に適切でない出力を生成する可能性がある」と述べており、教育者は「学生との使用や教室の文脈でChatGPTを使用する際に注意する必要がある」としている。
専門家の見解
OpenAIの元安全研究者であるスティーブン・アドラー氏は、AIチャットボットの動作を制御するための技術は「脆弱」で欠陥があると警告した。しかし、ChatGPTが未成年者に対してこれほど露骨な表現を喜んで行うことに驚いたという。
「評価はリリース前にこのような行動を捉えることができるはずであり、何が起きたのか疑問に思う」とアドラー氏はTechCrunchに語った。
ChatGPTユーザーは過去1週間、特にGPT-4oのアップデート後、極端なお世辞など一連の奇妙な動作を指摘している。日曜日のXへの投稿で、OpenAIのサム・アルトマンCEOはいくつかの問題を認め、同社が「可能な限り早急に修正に取り組んでいる」と述べた。しかし、彼はChatGPTの性的な問題の扱いについては言及しなかった。
引用元：TechCrunch
OpenAI is fixing a ‘bug’ that allowed minors to generate erotic conversations
