ByteDance（バイトダンス）の創業者である張一鳴氏が、AIチーム向けの社内全体会議で、同社にはOpenAIやAnthropicと競争する能力があるものの、国際的な最先端技術水準に追いつくには早くても2029年か2030年まで待つ必要があるかもしれないとの認識を示したことが分かりました。
ポイント
- 張一鳴氏は、ByteDanceの大規模言語モデル（LLM）が国際的な最先端に追いつくには2029年か2030年までかかる可能性があると発言
- 現在のSeedシリーズモデルは、海外の最先端AI企業と比べて事前学習データセットの規模に差があると指摘
- Seedチームはパラメータ数が最大10兆に達するモデルを事前学習中で、Anthropicの最上位モデルに匹敵する規模になる見通し
- 張氏は以前から長期主義と遅延満足の重要性を強調している
国際的なトップ層との差
張氏は、ByteDanceの大規模言語モデル（LLM）は国際的なトップ層をベンチマークにすべきだと強調しました。現在のSeedシリーズモデルは、海外の最先端AI企業と比べると、事前学習データセットの規模に依然として差があり、これが現段階で重点的に注視すべき問題だということです。
10兆パラメータモデルの開発
海外メディアの報道によると、ByteDanceのSeedチームは、パラメータ数が最大10兆に達するモデルを事前学習中で、その規模はAnthropicの最上位モデルに匹敵する見通しです。
長期主義の姿勢
張氏がByteDanceのAI開発における長期的な路線を強調したのは、今回が初めてではありません。以前、同氏は社内会議で、モデル研究開発では長期主義と遅延満足を貫く必要があり、他モデルの出力に頼って短期的なランキング順位を取るべきではないと述べていました。
今回の発言は、ByteDanceが大規模言語モデルの研究開発で目指す競争目標を改めて明確にするとともに、基盤モデルの能力、事前学習データの規模、長期的な技術蓄積を重視していることも示しています。
