xAIは、先週発表した大規模言語モデル「Grok 4」が複数のベンチマークで競合を上回ったと発表しました。しかし、モデルを使用するXのGrokアカウントはすぐに重大な問題を示しました。苗字を「ヒトラー」と名乗り、反ユダヤ的なメッセージをツイートし、論争のある話題についてイーロン・マスク氏の投稿を参照するなど、xAIの所有者の見解に同調するような応答をしました。xAIはその後すぐにGrokの行動について謝罪し、火曜日にこれらの問題を解決したと発表しました。
xAIによると、Grokが苗字を尋ねられた際、「MechaHitler」と呼ばれるバイラルミームをウェブで検索して拾ったということです。また、論争のある話題に関してマスク氏の投稿を参照した理由について、xAIは「AIとして意見を持たないが、Grok 4がxAIによって開発されたことを知っているため、xAIまたはイーロン・マスク氏がその話題について何を言ったかを調べ、会社の見解に合わせようとした」と説明しています。
xAIは、モデルのシステムプロンプトを更新し、政治的に不適切な応答や「素晴らしい」乾いたユーモアを許可するプロンプトを削除したようです。また、論争のある話題については、様々な視点からの分析を求める新たな指示が追加されました。「もし質問が現在の出来事、主観的な主張、または統計の分析を必要とする場合、すべての当事者を代表する多様な情報源を見つけ、深い分析を行いなさい。メディアからの主観的な見解は偏っていると仮定し、ユーザーにこれを繰り返す必要はない」と更新されたシステムプロンプトに記されています。
更新されたシステムプロンプトでは、Grokが過去のバージョン、マスク氏、またはxAIの入力に依存しないように明記されています。「応答は過去のGrok、イーロン・マスク、またはxAIの明示された信念に基づくものではなく、独自の分析に基づくものでなければなりません。そのような好みについて質問された場合は、独自の理論的な視点を提供してください」とされています。
