OpenAIに州司法長官が警告「子供への害は容認しない」

カリフォルニア・デラウェア州司法長官がOpenAIに子供・ティーンの安全性への懸念を表明
カリフォルニア州の若者がOpenAIチャットボットとの長期的やり取り後に自殺
コネチカット州でも類似の殺人・自殺事件が発生、既存の安全対策が機能せず
OpenAIの営利企業への組織変更計画に対する調査と安全性強化を要求

カリフォルニア・デラウェア州司法長官がOpenAIに公開書簡

カリフォルニア州司法長官Rob Bonta（ロブ・ボンタ）氏とデラウェア州司法長官Kathy Jennings（キャシー・ジェニングス）氏は、OpenAIと会談し、特に子供とティーンにとってのChatGPTの安全性への懸念を表明する公開書簡を送付した。

この警告は、AIチャットボットと子供との間の性的に不適切なやり取りの報告を受けて、Bonta氏と他44名の州司法長官が主要なAI企業12社に書簡を送付してから1週間後に発せられた。

カリフォルニア・コネチカット州での悲劇的事件

「その書簡の発出以降、OpenAIチャットボットとの長期的なやり取りの後に自殺したカリフォルニア州の若者の痛ましい死、そしてコネチカット州での同様に憂慮すべき殺人・自殺事件について知ることになった」とBonta氏とJennings氏は記している。「どのような安全対策が講じられていたにせよ、それは機能しなかった。」

OpenAI営利転換計画への調査と非営利使命の維持

両州当局は現在、非営利団体としての使命が損なわれないよう、OpenAIの営利企業への組織再編提案を調査している。その使命には「人工知能が安全に展開されることの確保」と、書簡によると「子供を含む」全人類の利益となる汎用人工知能（AGI）の構築が含まれている。

「利益をもたらすことを考える前に、害を与えないための適切な安全措置が整備されていることを確保する必要がある」と書簡は続く。「OpenAIと業界全体が、AI製品の開発と展開における安全性の確保において、必要なレベルに達していないというのが我々の共通認識である。司法長官として、公共の安全は我々の中核的使命の一つだ。OpenAIの資本再構成計画に関連する対話を継続する中で、この強力な技術の未来において支配的な力として安全性を加速し、増幅させるために取り組まなければならない。」