Anthropicは、提供されたAIモデルが本当に表示通りのものかを検証するオープンソースツール「FlashProve」を公開しました。ゼロ知識証明の研究者と協力して開発したもので、高額な料金を払っても縮小版モデルが使われるといった供給網の課題に対処します。
ポイント
- Anthropicがゼロ知識証明を使ったモデル検証ツール「FlashProve」をオープンソースで公開
- 検証は3段階で、提供前の重みの指紋生成、会話ごとの証明生成、ユーザー側の照合からなる
- 4000億パラメータのLlama 4 Maverickでテストし、単一のH100で動作
- コードの95.2%（約398MB）はLean 4による数学的証明
- ユーザーは通常のCPUで17秒で真偽を判定できる
検証の仕組み
検証は3つの段階で行われます。まず提供前に単一のH100 GPUで約39分をかけ、モデルの重みの「指紋」となるIDを生成して公開します。次に各会話の後にGPUが約19MBの証明を生成します。最後にユーザーが通常のCPUで「cp_verify」を実行し、17秒で真偽を判定できます。重みもGPUも必要ありません。
基盤となるzkSNARK（ゼロ知識証明の方式の一つ）は、リクエストごとに約2000回のsumcheck（計算検証の手法）を行います。安全性はハッシュ関数BLAKE2のみに依存するということです。
大規模モデルを扱う工夫
課題は計算資源にあります。テストには4000億パラメータのLlama 4 Maverickを使用しました。4-bitの重みは232GBに達しますが、単一のH100のVRAMはわずか80GBです。
FlashProveはMoE（専門家混合）を利用します。各トークン（AIが文章を処理する単位）で約170億パラメータだけを活性化し、証明量はこの170億にのみ関係するため、残り95%の計算を省けます。ルーティングは指示ベクトルに隠して秘匿します。重みをメモリに置き、分割してストリーミングでGPUに送ることで、巨大なモデルを扱えるようにしています。
Lean 4による数学的証明
リポジトリの特徴も際立っています。コードの95.2%（約398MB）はLean 4による数学的証明です。114ページの論文と基盤コードのほぼすべてをClaudeが作成しました。
人間はAIと6つの安全定義を決めるだけです。完全性（誤拒否が1兆分の1未満）、知識健全性（偽造確率が2の100乗分の1未満）、ゼロ知識（繰り返し検証しても重みを漏らさない）などです。膨大な導出を読み切れない中、人間が公理を定め、AIが推論し、数学が最終審査する体制としています。
FlashProveはオープンソースとして公開されており、今後の利用が期待されます。
