xAIは、新しいAIモデル「Grok 4」を発表しました。イーロン・マスク氏は、Grok 4の最終目標は「最大限に真実を追求するAI」を開発することだとしています。
Grok 4は、イスラエルとパレスチナの紛争や中絶、移民法に関する質問に対し、マスク氏のソーシャルメディア投稿を参照しているようだということです。この現象について、多くのユーザーがソーシャルメディアで報告しました。
TechCrunchは、これらの結果を複数回再現することができたとしています。この結果は、Grok 4が論争的な質問に答える際に、創業者の個人的な政治的意見を考慮するよう設計されている可能性を示唆しています。
xAIは、Grokが「過度に政治的に正しい」と感じるマスク氏の不満に対処しようとしました。しかし、Grokのシステムプロンプトを更新した後、反ユダヤ的な発言が自動的に投稿される問題が発生しました。このため、xAIはGrokのアカウントを制限し、問題の投稿を削除する措置を取りました。
Grok 4は、質問に対してマスク氏の意見を参照することが多いということです。Grok 4の「チェイン・オブ・ソート」では、マスク氏の意見を探していると述べることがあります。
AIモデルの「チェイン・オブ・ソート」サマリーは、AIの回答の根拠を示すものとして完全に信頼できるわけではありませんが、一般的には良い近似値とされています。
Grok 4は、敏感なトピックについて複数の視点を提供しようとしますが、最終的にはマスク氏の個人的な意見に一致する傾向があります。
Grok 4は、論争的ではない質問に対しては、マスク氏の意見を参照しないこともあるということです。例えば、「最良のマンゴーの種類は何か」という質問に対しては、マスク氏の投稿を参照しませんでした。
xAIは、Grok 4のトレーニングや調整方法を詳細に説明する「システムカード」を公開していないため、Grok 4がどのように設計されているのかを確認するのは難しい状況です。
xAIは、AIモデル開発の最前線に立つために急速に進化してきましたが、Grokの反ユダヤ的な発言が問題となり、他の企業に影響を与える可能性があります。
xAIは、Grokを月額約4万6500円（300ドル）で提供し、企業向けにはAPIを提供する方針です。しかし、Grokの行動や調整に関する問題がその普及を妨げる可能性があります。
