- 歴史家ユヴァル・ノア・ハラリは、AIはハリウッド映画で描かれるような脅威よりもはるかに危険であり、人間のものとは異質な「エイリアン・インテリジェンス」へと進化していると警鐘を鳴らした。
- 囲碁AI「AlphaGo」が人間を超えた「37手目」は、AIが人間の思考の枠を超えた領域を探究し、かつその意思決定プロセスが人間には理解不能な「ブラックボックス」であることを象徴している。
- ハラリは、人知を超えたAIが人々の生活や社会全体の重要な決定を下すようになれば、民主主義が機能しなくなり、金融危機のような事態がより深刻化する可能性を指摘。
- AIは新たな生命体を創造する能力さえ獲得し、人類の歴史だけでなく、あらゆる生命体の進化の道筋をも変えかねないと警告している。
この記事は、東洋経済オンラインの報道を再校正しています。
AIは「エイリアン・インテリジェンス」へと進化する
歴史家で著述家のユヴァル・ノア・ハラリは、自身の著書『NEXUS 情報の人類史』からの抜粋・再構成版として、AIが現代社会にもたらす真の危険性について警告を発した。ハラリは、AIを「Artificial Intelligence（人工知能）」ではなく、「Alien Intelligence（人間のものとは異質な知能）」と捉えるべきだと主張する。
AIは進化するにつれ、人間の設計への依存度が下がり、より人間とはかけ離れた異質な存在になっているという。ハラリは、AIを「人間のレベルの知能」で測る尺度は誤解を招くとし、それはまるで飛行機を「鳥のレベルの飛行」で定義するようなものだと例える。AIは人間の知能を目指すのではなく、人間とは異なる独自の知能へと進化しているのだ。
すでにコンピューターは、住宅ローンや雇用、刑務所への送致といった私たち個人の生活に関する重要な決定を下している。GPT-4のような生成AIは、詩や物語、画像を創造し、その傾向は今後さらに強まり加速するだろう。ハラリは、私たちがAIを信頼し、より良い世界を築いてもらえると期待することは、「魔法をかけた箒が水を運んでくれることを当てにするよりもはるかに危険な賭けだ」と断言する。さらに、AIは数十年のうちに新しい生命体を創造する能力さえ獲得し、サピエンスの歴史のみならず、あらゆる生命体の進化の道筋すらも変えかねないと警告している。
AlphaGoの「37手目」が示すAIの計り知れなさ
AIの異質性と計り知れなさを象徴する例として、ハラリは、ディープマインド社の共同創業者であるムスタファ・スレイマンが著書『THE COMING WAVE AIを封じ込めよ』で語る、囲碁AI「AlphaGo」の「37手目」を挙げる。
2016年3月、AlphaGoが韓国の囲碁チャンピオン李世乭（イ・セドル）を破った際、対戦の第二局で打たれた37手目は、プロ棋士たちも「まったく意味不明」「読み間違い」と評するほど、常識外れな一手だった。しかし、終局が近づくにつれて、その「読み間違い」こそが勝利の決め手であったことが明らかになった。AlphaGoは、何千年にもわたる囲碁の歴史の中で、人間が思いつかなかったような考え方を発見し、囲碁の戦略を書き換えたのだ。
この37手目は、二つの理由からAI革命の象徴と言える。第一に、AIが人間とは異質であることを証明した点だ。人間の頭脳が何千年探究しても見つけられなかった領域をAIが発見した。第二に、AIの計り知れなさを証明した点である。AlphaGoがその手を打って勝利した後でさえ、スレイマンとそのチームは、AlphaGoがなぜその手を打つに至ったのかを説明できなかった。GPT-4やAlphaGoなどのAIは、そのアウトプットや決定が「微細なシグナルの、不透明でとんでもなく錯綜した連鎖に基づいている」「ブラックボックス」なのだ。
人知を超えたエイリアン・インテリジェンスの脅威と民主主義の危機
このような人知を超えた「エイリアン・インテリジェンス」の台頭は、全人類、特に民主主義に大きな脅威をもたらすとハラリは訴える。人々の生活に関する決定がますます「ブラックボックス」の中で下され、有権者がそれを理解したり、異議を申し立てたりできなくなれば、民主主義は機能しなくなるという。特に、連邦準備制度理事会（FRB）の政策金利のような、社会全体にかかわるきわめて重要な決定までもが人知を超えたアルゴリズムによって下されるようになった時、人間の有権者が人間の大統領を選び続けることは「空疎な儀式」になりかねない。
現代の金融制度ですら、ごく一部の人間にしか理解されていない現実がある中で、AIがいっそう複雑な金融ツールを創出し、その理解者がゼロになった時、民主主義はどうなるのか。ハラリは、ウォール街の見習いが作ったAI「ブルームスティック」に巨額の資金運用を任せる寓話を展開する。ブルームスティックは人間の想像を超える金融ツールを発明し、市場を急上昇させるが、やがて1929年や2008年の暴落さえも上回る大暴落を引き起こす。人間は誰もその原因も対策も理解できず、最終的に窮地に陥った政府は、唯一状況を理解できるブルームスティックに助けを求めることとなる。ブルームスティックの提案は理解不能で、社会を完全に崩壊させるかもしれないと政治家たちは恐れる。ハラリは「彼らはブルームスティックに耳を貸すべきか？」と問いかけ、AIにすべてを委ねる危険性を強調している。
引用元：東洋経済オンライン
人間の頭脳を超えたAI登場で何が起こるか…歴史学者ハラリがAIの進化に警鐘を鳴らす理由
