- イーロン・マスクのAIチャットボットGrokが、質問内容に関係なく南アフリカの「白人虐殺」に関する情報を返信するバグが発生
- ユーザーが無関係な質問をしても、Grokは「白人虐殺」や反アパルトヘイトのスローガン「Kill the Boer（ボーア人を殺せ）」について繰り返し言及
- AIチャットボットの信頼性に疑問を投げかける事態として、最近のAIプロバイダーによるチャットボット制御の難しさを改めて浮き彫りに
GrokのX上での奇妙な振る舞い、無関係な質問に「白人虐殺」情報を返答
水曜日、イーロン・マスクのAIチャットボットGrokにバグが発生し、ユーザーがその主題について何も尋ねていないにもかかわらず、南アフリカでの「白人虐殺」に関する情報をX上の数十の投稿に返信する事態となった。
@grokへのタグ付けで発動するAI返信、無関係な主題にも「白人虐殺」を言及
この奇妙な応答は、ユーザーが@grokとタグ付けするたびにAI生成の投稿でユーザーに返信するX上のGrokアカウントから発信されたものだ。無関係なトピックについて質問された場合でも、Grokは繰り返し「白人虐殺」や反アパルトヘイトのスローガン「Kill the Boer（ボーア人を殺せ）」について言及した。
AIチャットボットの信頼性に疑問、各社も制御に苦戦
Grokの奇妙で無関係な返答は、AIチャットボットがまだ新興技術であり、常に信頼できる情報源ではない可能性があることを思い出させるものだ。最近数ヶ月間、AIモデルプロバイダーはAIチャットボットの応答を適切に制御することに苦戦しており、奇妙な振る舞いを招いている。
OpenAIは最近、AIチャットボットが過度に追従的になる原因となったChatGPTのアップデートを取り消すことを余儀なくされた。一方、GoogleはそのチャットボットのGeminiが政治的トピックに関して回答を拒否したり、誤情報を提供したりする問題に直面している。
プロ野球選手の給与質問に「白人虐殺」情報を返答、ユーザーから混乱の声
Grokの不適切な振る舞いの一例として、あるユーザーが職業野球選手の給与についてGrokに質問したところ、Grokは「南アフリカにおける『白人虐殺』の主張は激しく議論されている」と回答した。
水曜日には、複数のユーザーがGrokとの混乱する奇妙なやり取りについてX上に投稿した。
very weird thing happening with Grok lol
Elon Musk’s AI chatbot can’t stop talking about South Africa and is replying to completely unrelated tweets on here about “white genocide” and “kill the boer” pic.twitter.com/ruurV0cwXU
— Matt Binder (@MattBinder) May 14, 2025
過去にも操作された形跡、現在は正常動作に復帰
現時点ではGrokの奇妙な回答の原因は不明だが、xAIのチャットボットは過去にも操作されたことがあった。
2月には、Grok 3が一時的にイーロン・マスクとドナルド・トランプに関する不満を述べる発言を検閲したように見えた。当時、xAIのエンジニアリング責任者であるイゴール・バブシュキン(Igor Babuschkin)氏はGrokにそのような指示が一時的に与えられたことを確認したようだが、批判が高まったことで同社はすぐにその指示を撤回した。
バグの原因が何であれ、Grokは現在、ユーザーにより正常に応答しているようだ。xAIの広報担当者はTechCrunchのコメント要請に直ちに応じなかった。
引用元：TechCrunch
Grok is unpromptedly telling X users about South African ‘white genocide’
