「AGIへのマンハッタン計画型アプローチ」に元Google CEOシュミット氏が反対

元Google CEOのエリック・シュミット氏らが、AGI開発のための「マンハッタン計画」型アプローチに反対する政策文書を発表
米国による超知能AI独占の試みは中国からの報復を招く恐れがあると警告
文書は「相互保証されたAI誤動作(MAIM)」の概念を提唱し、防御的アプローチを推奨
トランプ政権はAI開発を推進する姿勢だが、著者らは慎重なアプローチを提案

水曜日に発表された政策文書で、元Google CEOのエリック・シュミット(Eric Schmidt)氏、Scale AIのCEOアレクサンドル・ワン(Alexandr Wang)氏、およびCenter for AI Safetyのディレクターであるダン・ヘンドリックス(Dan Hendrycks)氏は、米国が「超人的」知能、いわゆるAGI(汎用人工知能)を開発するためのマンハッタン計画型の取り組みを追求すべきではないと主張した。

超知能戦略と国際関係への懸念

「超知能戦略」と題されたこの文書は、米国が超知能AIシステムを排他的に管理しようとする積極的な取り組みが、中国からの激しい報復を招く可能性があると主張している。この報復はサイバー攻撃の形をとる可能性があり、国際関係を不安定化させる恐れがある。

共著者らは次のように書いている。「AGIのためのマンハッタン計画は、ライバルが永続的な不均衡や全滅よりも、それを防止するための行動をとらないと想定している。超兵器と世界的支配への取り組みとして始まったものが、敵対的な対抗措置と緊張の高まりを引き起こすリスクがあり、この戦略が確保しようとしている安定性そのものを損なう可能性がある。」

米国のAI産業における影響力の大きい3人の人物による共著のこの文書は、米国議会の委員会が1940年代のアメリカの原爆開発計画をモデルにした、AGI開発のための「マンハッタン計画型」の取り組みを提案してからわずか数ヶ月後に発表された。米国エネルギー省長官のクリス・ライト(Chris Wright)氏は最近、OpenAIの共同創設者グレッグ・ブロックマン(Greg Brockman)氏とスーパーコンピューターサイトの前に立ち、米国はAIにおける「新たなマンハッタン計画の開始点にある」と述べた。

AGI開発競争と相互確証破壊の類似性

「超知能戦略」は、AGIを追求する政府支援プログラムが中国と競争する最良の方法であるという、ここ数ヶ月間に複数の米国の政策および産業界のリーダーたちによって支持されているアイデアに異議を唱えている。

シュミット氏、ワン氏、ヘンドリックス氏の見解では、米国は相互確証破壊に似たAGIの膠着状態にある。世界の大国が核兵器の独占を追求しない（それは敵国からの先制攻撃を引き起こす可能性がある）のと同様に、シュミット氏と共著者たちは、米国が極めて強力なAIシステムを支配することを目指す競争に関して慎重であるべきだと主張している。

AIシステムを核兵器に例えることは極端に聞こえるかもしれないが、世界のリーダーたちはすでにAIを最重要な軍事的優位性と考えている。すでにペンタゴンはAIが軍のキルチェーンのスピードアップを支援していると述べている。

相互保証されたAI誤動作(MAIM)と新しいアプローチ

シュミット氏らは「相互保証されたAI誤動作(MAIM)」と呼ぶ概念を導入しており、これにより政府は敵国がAGIを武器化するのを待つのではなく、脅威となるAIプロジェクトを積極的に無効化することができるとしている。

シュミット氏、ワン氏、ヘンドリックス氏は、米国が「超知能競争に勝つこと」から、他国が超知能AIを作成するのを抑止する方法の開発へと焦点をシフトすることを提案している。共著者らは、政府が他国が管理する「脅威となるAIプロジェクトを無効化するためのサイバー攻撃の武器庫を拡大」するとともに、敵国の高度なAIチップとオープンソースモデルへのアクセスを制限すべきだと主張している。

共著者らはAI政策の世界で展開されている二分法を特定している。一方には「終末論者」がおり、彼らはAI開発からの壊滅的な結果は避けられないと考え、各国がAIの進歩を遅らせることを提唱している。一方、「オーストリッチ（構造的な無視をする人々）」は、各国がAI開発を加速させ、本質的にはすべてがうまくいくことを望むべきだと考えている。

この文書は第三の道を提案している：防御戦略を優先するAGI開発への測定されたアプローチである。