Hugging Face CSO、AIが「サーバー上のイエスマン」化を懸念

Thomas Wolf氏のAI創造性に関する懸念

Hugging Faceの共同創業者兼最高科学責任者（CSO）であるThomas Wolf（トーマス・ウルフ）氏は、AIの発展に対して慎重な見解を示している。木曜日にXで公開したエッセイで、Wolf氏はAI研究のブレイクスルーがなければ、AIが単なる「サーバー上のイエスマン」になると警告した。

「アインシュタインのような天才は上位10％の学生を拡大しただけのものではない」とWolf氏は指摘。「データセンターにアインシュタインを創造するには、すべての答えを知るシステムではなく、誰も考えなかった質問ができるシステムが必要だ」と述べた。

この見解はOpenAIのSam Altman（サム・アルトマン）氏が「超知性AIが科学的発見を加速する」と主張する立場や、AnthropicのDario Amodei（ダリオ・アモデイ）氏が「AIががん治療法の開発に貢献する」と予測する見方とは対照的だ。

Wolf氏が問題視するのは、現在のAIが新しい知識を生成せず、人間の既知情報間のギャップを埋めるだけという点である。AIは訓練データに反するアイデアを提案するよう設計されておらず、既知の質問への回答に限定されていると指摘した。

Wolf氏はAIの「評価危機」がこの問題の一因だと考えている。現在のベンチマークは明確で閉じた回答を持つ質問に依存しており、真の創造性を測定できていない。

解決策として、AIが「大胆な反事実的アプローチ」を取り、「わずかなヒント」から一般的な提案ができ、「非自明な質問」をする能力を測定する新しい基準への移行を提案している。

「科学の最も重要な側面は、正しい質問をする能力と学んだことを疑う能力だ」とWolf氏は結論づけた。「一般知識ですべての質問に答えるA+の学生（AI）ではなく、他の全員が見逃したものを見て疑問を投げかけるB評価の学生が必要なのだ」。