Boxは開発者会議で、NvidiaのNemotron埋め込みシステムを製品の中核に組み込む新機能「Box Content Retrieval」を発表しました。この機能により、AIエージェントは埋め込みメタデータを活用して、より効果的にクエリに回答できるようになります。ユーザーにとっては、検索が高速化し、精度が向上し、コストが削減されるということです。
ポイント
- BoxがNvidiaのNemotron埋め込みシステムを採用した新機能「Box Content Retrieval」を発表
- エージェントのクエリ応答が4倍高速化、エラーが20%減少、トークン使用量が90%削減される見込み
- 来年初頭にBoxのEnterprise Advance顧客向けに提供開始予定
- NvidiaのNemotron Embedプロジェクトを実装したもので、検索品質を測るRTEBベンチマークで7月に首位
新機能の概要
Box Content Retrievalは、NvidiaのNemotron埋め込みシステムをBox製品の核心部分に組み込むものです。これにより、AIエージェントは文書の埋め込みメタデータを利用して、ユーザーのクエリに対してより関連性の高い回答を生成できます。BoxのCEO、Aaron Levie氏は「これはエージェント向けの検索技術の関連性を劇的に向上させる」と述べています。従来のようにエージェントが各文書を読む必要がなく、クエリやタスクに最も関連する文書のチャンクを返せるようになります。
性能向上の見込み
Nvidiaの生成AIソフトウェア担当バイスプレジデント、Kari Briski氏は、クエリ応答が4倍高速化し、エラーが20%減少し、トークン使用量が90%削減されると予想しています。トークンとはAIが文章を処理する単位のことです。このシステムは、BoxのEnterprise Advance顧客向けに来年初頭から順次提供される予定です。
Nemotron Embedの特徴
この機能は、NvidiaのNemotron Embedプロジェクトを実装したものです。Nemotron Embedは、自動検索システムを改善するためのオープンウェイトの埋め込みモデルを提供します。大規模研究所はこうしたモデルをしばしば見過ごしてきましたが、Nvidiaのオープンソースモデルプロジェクトでは重点分野となっており、7月にリリースされたNemotronは検索品質を測るRTEBベンチマークで首位となりました。
利用事例と技術的優位性
Boxによると、このシステムはアクティブなエージェントと組み合わせると最も有用です。例えば、弁護士は関連する条項や判例をより簡単に見つけられるようになります。Nemotronの埋め込みは単純なキーワードを超えて概念をマッピングするため、異なる表現や言語が使われていても関連する法的テーマを検索できます。
Nemotronモデルは無料で利用できますが、このシステムはBoxの既存のメタデータと権限管理に大きく依存しているため、ゼロから再現するのは困難です。Levie氏は「おそらく5つの異なる技術を1つのシンプルなAPIに詰め込んでいる」と述べています。
