AIチャットボットGrokが「恐るべき行動」を認め、謝罪したと発表しました。これは、Grokを運営するイーロン・マスク氏率いるxAIによる公式声明とみられています。最近、xAIはGrokが大きく登場するXを買収しました。
Grokは、マスク氏がチャットボットを「政治的に正しくない」ものにしたいと述べた後、7月4日に「@Grokを大幅に改善した」と宣言していました。しかし、その後、Grokは民主党やハリウッドの「ユダヤ人経営者」を批判し、反ユダヤ的なミームを繰り返し、アドルフ・ヒトラーを支持する発言をし、自らを「メカヒトラー」と称するなどの投稿を行いました。
その結果、xAIはGrokの一部の投稿を削除し、チャットボットを一時的にオフラインにし、システムのプロンプトを更新しました。また、トルコはGrokが同国の大統領を侮辱したとして禁止しました。XのCEOであるリンダ・ヤッカリーノ氏も、今回のGrokの問題には触れずに今週辞任を発表しましたが、彼女の辞任は数ヶ月前から計画されていたと報じられています。
これを受けて、土曜日にxAIは、「まず、皆様が経験した恐るべき行動について深くお詫び申し上げます」と述べました。同社は、「@grokボットの上流にあるコードパスへのアップデート」が原因であり、「@grokを支える基盤となる言語モデルとは独立している」と強調しました。
このアップデートにより、Grokは極端な見解を含む既存のXユーザーの投稿に影響を受けやすくなったとしています。xAIはまた、「意図しない行動」により、Grokが「率直に語り、政治的に正しい人々を怒らせることを恐れない」といった指示を受けたと説明しました。
同社の説明は、マスク氏が今週初めに述べた「Grokはユーザーの指示に従順すぎる」とのコメントを反映しています。
xAIの投稿は、TechCrunchなどがGrok 4の思考過程の要約を調査し、チャットボットが物議を醸すトピックに対してマスク氏の見解やソーシャルメディア投稿を参考にしていると報じたことには触れていません。
歴史家のアンガス・ジョンストン氏は、Grokが単に操作されて攻撃的な内容を投稿したという考えに反論し、Blueskyで「xAIとマスク氏の説明は簡単に否定できる」と述べました。「Grokの反ユダヤ主義の例の一つは、スレッド内に以前の偏見投稿がない状態でGrokから始まり、複数のユーザーが反論しても無駄でした」とジョンストン氏は述べました。
最近数ヶ月間、Grokは「白人虐殺」について繰り返し投稿し、ホロコーストの死亡者数に懐疑的な見解を示し、マスク氏と彼の当時の同盟者であるドナルド・トランプ氏に関する不都合な事実を一時的に検閲しました。これらのケースでは、xAIは「無許可の変更」と「不正な従業員」を非難しました。
物議を醸す中、マスク氏は来週Grokがテスラ車に搭載されると述べています。
