AnthropicがカリフォルニアAI安全法案SB 53を支持表明

Anthropic社がカリフォルニア州のAI安全法案SB 53への正式支持を表明
世界最大級AI開発企業への透明性要求を課す全米初の法案として注目
50人以上の死者または10億ドル（約1,500億円）の損害を「破滅的リスク」と定義
総収入5億ドル（約750億円）超の企業対象、第三者監査要求は修正で削除

Anthropic社によるSB 53法案への歴史的支持表明

月曜日、Anthropic社は、世界最大のAIモデル開発企業に全米初の透明性要件を課すScott Wiener（スコット・ウィーナー）州上院議員のカリフォルニア州法案SB 53への正式支持を発表した。Consumer Technology Association（CTA）やChamber for Progressなどの主要テック団体が法案に反対ロビー活動を行っている中、Anthropicの支持はSB 53にとって稀有で重要な勝利を意味する。

「フロンティアAI安全性は州規制のパッチワークではなく連邦レベルで対処されるべきと我々は考えているが、強力なAI進歩はワシントンの合意を待ってくれない」とAnthropic社はブログ投稿で述べた。「問題はAIガバナンスが必要かどうかではなく、今日それを思慮深く開発するか、明日反応的に開発するかである。SB 53は前者への確実な道筋を提供する。」

SB 53法案の主要条項と規制対象

可決されれば、SB 53はOpenAI、Anthropic、Google、xAI等のフロンティアAIモデル開発企業に安全フレームワークの開発と、強力なAIモデル展開前の公的安全・セキュリティ報告書のリリースを義務付ける。法案はまた、安全上の懸念を表明する従業員への内部告発者保護も確立する。

Wiener上院議員の法案は特に、AIモデルが「破滅的リスク」に寄与することを制限することに焦点を当てている。法案では破滅的リスクを少なくとも50人の死者または10億ドル（約1,500億円）を超える損害と定義している。SB 53は、AIディープフェイクや媚態等のより短期的懸念ではなく、AIリスクの極端な側面、すなわちAIモデルが生物兵器の作成における専門レベルの支援提供やサイバー攻撃での使用を制限することに焦点を当てている。

カリフォルニア州議会での審議状況とNewsom知事の対応

カリフォルニア州上院はSB 53の以前のバージョンを承認したが、知事の机に送られる前に法案の最終投票を行う必要がある。Gavin Newsom（ギャビン・ニューサム）知事はこれまでのところ法案について沈黙を保っているが、Wiener上院議員の前回のAI安全法案SB 1047は拒否権を発動していた。

シリコンバレーとトランプ政権からの反対論

フロンティアAIモデル開発企業を規制する法案は、シリコンバレーとトランプ政権の両方から大きな反発に直面している。両者とも、そのような取り組みが中国との競争におけるアメリカの革新を制限する可能性があると主張している。Andreessen HorowitzやY Combinator等の投資家がSB 1047への反発の一部を主導し、近か月においてトランプ政権は州によるAI規制の通過を完全に阻止すると繰り返し脅している。

憲法通商条項をめぐる法的論争

AI安全法案に対する最も一般的な議論の一つは、州は問題を連邦政府に委ねるべきだということである。Andreessen HorowitzのAI政策責任者Matt Perault（マット・ペロー）氏と最高法務責任者Jai Ramaswamy（ジャイ・ラマスワミー）氏は先週、今日の州AI法案の多くが憲法の通商条項に違反するリスクがあると主張するブログ投稿を発表した。通商条項は州政府が州境を越えて州際通商を阻害する法律を制定することを制限している。

Anthropic共同創設者Clark氏とOpenAI幹部の対立する見解

しかし、Anthropic共同創設者Jack Clark（ジャック・クラーク）氏はXの投稿で、テック業界は今後数年で強力なAIシステムを構築し、連邦政府の行動を待つことはできないと主張している。

「我々は長い間連邦基準を好むと言ってきた」とClark氏は述べた。「しかし、それがない状況では、これは無視できないAIガバナンスの確実な青写真を作成する。」

OpenAIの最高グローバル業務責任者Chris Lehane（クリス・レハーン）氏は8月にNewsom知事に書簡を送り、スタートアップをカリフォルニアから追い出すようなAI規制を通過させるべきではないと主張したが、書簡はSB 53を名指しで言及していなかった。

OpenAIの元政策研究責任者Miles Brundage（マイルズ・ブランデージ）氏はXの投稿で、Lehane氏の書簡は「SB 53とAI政策全般について誤解を招く戯言で満たされている」と述べた。注目すべきは、SB 53が世界最大のAI企業、特に総収入が5億ドル（約750億円）を超える企業のみを規制することを目的としていることである。

政策専門家による穏健的評価と立法的配慮

批判にもかかわらず、政策専門家はSB 53が以前のAI安全法案よりも穏健なアプローチであると述べている。Foundation for American Innovationのシニアフェローで元ホワイトハウスAI政策顧問のDean Ball（ディーン・ボール）氏は8月のブログ投稿で、SB 53が法律になる良いチャンスがあると信じていると述べた。SB 1047を批判したBall氏は、SB 53の起草者が「技術的現実への敬意」と「立法的節制の尺度」を示したと述べた。

Fei-Fei Li氏率いる専門家パネルの影響

Wiener上院議員は以前、SB 53がNewsom知事が招集した専門家政策パネル（スタンフォード大学の主要研究者でWorld Labs共同創設者のFei-Fei Li（フェイフェイ・リー）氏が共同指導）の大きな影響を受けたと述べていた。このパネルはカリフォルニア州にAI規制方法を助言するために設置された。

既存のAIラボ安全政策と法的拘束力の必要性

ほとんどのAIラボは既にSB 53が要求する内部安全政策の何らかのバージョンを持っている。OpenAI、Google DeepMind、Anthropicは定期的にモデルの安全性報告書を発表している。しかし、これらの企業は自分たち以外の誰にも拘束されないため、時として自らが課した安全コミットメントに遅れることがある。SB 53は、AIラボが遵守に失敗した場合の金銭的影響を伴う州法としてこれらの要件を設定することを目的としている。