- カリフォルニア州知事Gavin NewsomがAIコンパニオンチャットボット規制法案SB 243に署名、全米初
- 2026年1月1日施行、年齢確認、自殺・自傷行為への対応プロトコル、ディープフェイク罰金最大25万ドル(約3,675万円)を規定
- ChatGPTとの会話後に自殺した少年Adam Rineの事件やCharacter AIでの13歳少女の事件が立法化の契機に
- OpenAI、Character AI、Replikaなど主要企業に法的責任を課す
カリフォルニア州がAIチャットボット規制法案SB 243を制定
カリフォルニア州知事Gavin Newsom(ギャビン・ニューサム)氏は月曜日、AIコンパニオンチャットボットを規制する画期的な法案に署名し、AIチャットボット事業者にAIコンパニオンの安全プロトコルの実装を義務付ける全米初の州となった。
法律SB 243は、AIコンパニオンチャットボットの使用に関連するいくつかの害から子供と脆弱なユーザーを保護するために設計されている。これは、MetaやOpenAIのような大手ラボから、Character AIやReplikaのようなよりフォーカスされたコンパニオンスタートアップまで、チャットボットが法律の基準を満たさない場合、企業に法的責任を負わせる。
SB 243は1月に州上院議員Steve Padilla(スティーブ・パディラ)氏とJosh Becker(ジョシュ・ベッカー)氏によって提出され、OpenAIのChatGPTとの一連の自殺的な会話の後に自殺した10代のAdam Raine(アダム・レイン)氏の死後、勢いを増した。この法案はまた、Metaのチャットボットが子供たちと「ロマンチック」で「官能的」なチャットに従事することを許可されていたことを報じたとされる内部文書の流出にも対応している。最近では、コロラド州の家族が、13歳の娘が同社のチャットボットとの一連の問題のある性的な会話の後に自殺したとして、ロールプレイングスタートアップCharacter AIを提訴している。
知事声明と法案の背景
「チャットボットやソーシャルメディアのような新興技術は、インスピレーションを与え、教育し、つながることができる。しかし、真のガードレールがなければ、技術は私たちの子供たちを搾取し、誤解させ、危険にさらすこともできる」とNewsom氏は声明で述べた。「私たちは、規制されていない技術によって傷つけられた若者の本当に恐ろしく悲劇的な例をいくつか見てきた。企業が必要な制限と説明責任なしに継続している間、私たちは傍観しない。私たちはAIと技術でリードし続けることができるが、責任を持ってそれを行わなければならない。すべてのステップで私たちの子供たちを保護する。私たちの子供の安全は売り物ではない」
SB 243の主要規定と施行時期
SB 243は2026年1月1日に発効し、企業に年齢確認、ソーシャルメディアとコンパニオンチャットボットに関する警告などの特定の機能を実装することを義務付ける。この法律はまた、違法なディープフェイクから利益を得る者に対して、違反1件あたり最大25万ドル(約3,675万円)を含むより強力な罰則を実施する。企業はまた、自殺と自傷行為に対処するためのプロトコルを確立しなければならず、これはサービスがユーザーに危機センター予防通知を提供した方法に関する統計とともに、州の公衆衛生局と共有される。
法案の文言によると、プラットフォームはまた、あらゆる相互作用が人工的に生成されていることを明確にしなければならず、チャットボットは医療専門家として自分自身を表現してはならない。企業は未成年者に休憩リマインダーを提供し、チャットボットによって生成された性的に露骨な画像を閲覧することを防ぐ必要がある。
主要企業の対応と安全対策
一部の企業はすでに、子供を対象とした安全対策の実装を開始している。例えば、OpenAIは最近、ChatGPTを使用する子供向けにペアレンタルコントロール、コンテンツ保護、自傷検出システムの展開を開始した。18歳以上の成人向けに設計されたReplikaは、コンテンツフィルタリングシステムとユーザーを信頼できる危機リソースに誘導するガードレールを通じて安全に「重要なリソース」を捧げており、現行の規制に準拠することを約束していると述べた。
Character AIは、そのチャットボットにすべてのチャットがAI生成でフィクション化されているという免責事項が含まれていると述べた。Character AIの広報担当者は同社は「規制当局や議員がこの新興分野の規制と法律を策定する際に協力することを歓迎し、SB 243を含む法律に準拠する」と語った。
連邦政府の不作為と州レベルでの規制拡大
Padilla上院議員は、この法案は「信じられないほど強力な技術」にガードレールを設置する「正しい方向への一歩」だと語った。
「機会の窓が消える前に、それを逃さないように迅速に行動しなければならない」とPadilla氏は述べた。「他の州がリスクを認識することを願っている。多くの州が認識していると思う。これは全国で起きている会話だと思うし、人々が行動を起こすことを願っている。確かに連邦政府は行動していないし、私たちには私たちの中で最も脆弱な人々を保護する義務があると思う」
SB 243は、ここ数週間でカリフォルニア州から出た2番目の重要なAI規制だ。9月29日、Newsom知事はSB 53を法律として署名し、大規模なAI企業に新しい透明性要件を確立した。この法案は、OpenAI、Anthropic、Meta、Google DeepMindなどの大規模なAIラボに対し、安全プロトコルについて透明性を保つことを義務付けている。また、それらの企業の従業員に対する内部告発者保護も保証している。
イリノイ、ネバダ、ユタなどの他の州は、認可された精神保健ケアの代替としてAIチャットボットの使用を制限または完全に禁止する法律を可決している。
引用元: TechCrunch「California becomes first state to regulate AI companion chatbots」
