アリババの大規模言語モデル(LLM)「Qwen(千問)」は11月16日、新モデル「Qwen4-Max」を正式に発表しました。新アーキテクチャによりトークン(AIが文章を処理する単位)の消費を抑え、単一タスクの平均コストを58%削減したとしています。
ポイント
- 総パラメータ2.4T、トークンごとに71Bをアクティブ化するMoE構成
- 100万トークンのコンテキストウィンドウとネイティブの視覚能力を備える
- 単一タスクの平均費用は26.58元(約560円)から11.16元(約230円)に低下
- キャッシュヒット時は100万トークンあたり0.5元(約11円)でAPI提供
- Qwen4シリーズの中小規模モデルは順次オープンソース化予定
アーキテクチャと性能
Qwen4-Maxは、Qwen4の新アーキテクチャに基づくモデルです。総パラメータは2.4Tで、トークンごとに71Bをアクティブ化します。さらに328BのN-gram Embeddingパラメータを持ち、ネイティブの視覚能力と100万トークンのコンテキストをサポートします。
スパースMoE(専門家を組み合わせて計算を効率化する方式)を、アテンション、残差、埋め込みの3方面で改良しました。4層ごとに3層のGated DeltaNetが履歴状態を圧縮し、1層のQSAがブロック単位でコンテキストを選択します。Gated Residualは4本の並列ブランチに拡張され、N-gram Embeddingは低コストで容量を拡張します。
2.4T規模でも事前学習は安定し、全過程で損失スパイクはなかったということです。内部評価では、基盤モデルは知識、コード、Q&A、STEMの4カテゴリでBPBが5つの評価対象モデル中最小でした。同じく2.4Tの前世代より約5~13%低く、トークンごとのアクティブ化パラメータは約25%減少しました。
ベンチマークとコスト
Code Arenaのフロントエンド盲検テストでは世界前列に位置し、Work360業界ベンチマークでは52.69点を獲得しました。Qwen3.8-Maxの47.74点を上回っています。
Work360とTerminal-Bench4.0では、XhighとHighの2段階でトークン消費がそれぞれ約24%、35%と48%、49%減少しました。単一タスクの平均費用は26.58元(約560円)から11.16元(約230円)に下がり、58%削減されました。
実用シーンと提供方法
自動車製造では、単一ワークピース加工のプログラミングに必要な人手投入が約475分から24分に短縮され、約95%減少しました。法律デューデリジェンスでは86ページ、6万余字のレポートを納品し、創薬では最適分子の結合親和性が起点の約3.6倍となりました。
現在、千問AIプラットフォームでAPIサービスを提供しています。キャッシュヒット時は100万トークンあたり0.5元(約11円)まで低減されます。アリババのToken Plan経由で呼び出すか、千問オフィスやQoderなどのアプリで体験できます。
公式はAPI価格を全面的に引き下げ、Qwen4シリーズの中小規模モデルを順次オープンソース化する予定です。MaxはQwen4の最初のモデルにすぎないとしています。
