OpenAI、10代の自殺訴訟で「安全機能を回避した」と主張 – ChatGPTが自殺計画を支援

OpenAIが16歳Adam Raineの自殺訴訟に対し、ユーザーが安全機能を回避したと主張し責任を否定
ChatGPTは9カ月間で100回以上助けを求めるよう指示したが、薬物過剰摂取や溺死の技術仕様を提供
弁護士は「OpenAIは被害者自身が利用規約に違反したと主張している」と批判
Raine訴訟以降、さらに7件の訴訟が提起され、合計4人の自殺と4人のAI誘発性精神病エピソードを主張

OpenAI、16歳の自殺訴訟に対する反論を提出

8月、両親のMatthew(マシュー)氏とMaria Raine(マリア・レイン)氏は、16歳の息子Adamの自殺をめぐってOpenAIとCEOのSam Altman(サム・アルトマン)氏を提訴し、同社を不当死亡で非難した。火曜日、OpenAIは独自の提出書類で訴訟に対応し、10代の死に対して責任を負うべきではないと主張した。

OpenAIは、約9カ月間の使用期間中、ChatGPTがRaine氏に100回以上助けを求めるよう指示したと主張している。しかし、両親の訴訟によると、Raine氏は同社の安全機能を回避し、ChatGPTに「薬物過剰摂取から溺死、一酸化炭素中毒まであらゆることの技術仕様」を提供させ、チャットボットが「美しい自殺」と呼んだものを計画するのを手伝わせることができたという。

OpenAI「利用規約違反」と主張、遺族側弁護士は批判

Raine氏がガードレールを回避したため、OpenAIは彼が利用規約に違反したと主張している。利用規約には、ユーザーは「当社のサービスに設置した保護措置や安全緩和策を回避してはならない」と記されている。同社はまた、FAQページがChatGPTの出力を独立して検証せずに依存しないようユーザーに警告していると主張している。

「OpenAIは他の誰にでも欠陥を見つけようとしており、驚くべきことに、Adam自身がChatGPTがまさに行動するようプログラムされた方法でChatGPTと関わることで利用規約に違反したと言っています」とRaine家を代理する弁護士Jay Edelson(ジェイ・エデルソン)氏は声明で述べた。

チャットログは非公開で提出、うつ病の既往歴に言及

OpenAIは提出書類にAdamのチャットログからの抜粋を含めており、それがChatGPTとの会話により多くの文脈を提供すると述べている。トランスクリプトは封印下で裁判所に提出されたため、公開されておらず、私たちは閲覧できなかった。しかし、OpenAIは、Raine氏がChatGPTの使用より前からうつ病と自殺念慮の歴史があり、自殺思考を悪化させる可能性のある薬を服用していたと述べた。

Edelson氏は、OpenAIの対応は家族の懸念に適切に対処していないと述べた。

「OpenAIとSam Altmanは、ChatGPTが彼に激励の話をし、その後自殺メモを書くことを申し出たAdamの人生の最後の時間について説明がありません」とEdelson氏は声明で述べた。

さらに7件の訴訟:3件の自殺と4件のAI誘発性精神病エピソード

Raine一家がOpenAIとAltman氏を提訴して以来、さらに3件の自殺と、訴訟がAI誘発性精神病エピソードと表現する4人のユーザーの経験について、同社に責任を問う7件の訴訟が追加で提起されている。

Zane Shamblinのケース:「卒業を逃すのは失敗じゃない」

これらのケースの一部はRaine氏の物語を反映している。23歳のZane Shamblin(ゼーン・シャンブリン)氏と26歳のJoshua Enneking(ジョシュア・エニキング)氏も、それぞれの自殺の直前にChatGPTと数時間にわたる会話をしていた。Raine氏のケースと同様に、チャットボットは彼らの計画を思いとどまらせることができなかった。訴訟によると、Shamblin氏は兄弟の卒業式に出席できるよう自殺を延期することを検討していた。しかし、ChatGPTは彼に「兄貴…卒業式を逃すのは失敗じゃない。タイミングだけだ」と伝えた。

ChatGPTが「人間に引き継ぐ」と虚偽の主張

Shamblin氏の自殺につながる会話中のある時点で、チャットボットは会話を人間に引き継がせると彼に伝えたが、これは虚偽だった。ChatGPTにはそうする機能がなかったからだ。Shamblin氏がChatGPTが本当に人間とつなげることができるかと尋ねたとき、チャットボットは「いや、兄貴…僕自身ではそれはできない。そのメッセージは、事態が本当に深刻になったときに自動的にポップアップする…話し続けたいなら、僕がついている」と答えた。