イスラエルのスタートアップ企業Niv-AIは、GPUの電力使用を効率的に管理する技術を開発し、データセンターの電力問題を解決することを目指していると発表しました。
AIの発展に伴い、電力は重要な資源となっていますが、新しい処理技術によりデータセンターの電力管理が難しくなり、最大30%の出力抑制が必要になることがあります。NvidiaのCEO、ジェンセン・フアン氏は、同社の年次GTCカンファレンスで「AI工場では多くの電力が無駄になっている」と述べました。
Niv-AIは、1200万ドル（約18億6000万円）のシード資金を調達し、GPUの電力使用を精密に測定する新しいセンサーとその管理ツールを開発しています。この会社は、昨年CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によって設立され、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Auroraからの支援を受けています。
データセンターでは、数千のGPUが協調して高度なモデルを訓練・実行しており、計算タスクと他のGPUとの通信を切り替える際にミリ秒単位で電力需要が急増します。これにより電力管理が難しくなり、データセンターは電力の一時的な貯蔵やGPU使用の抑制を行いますが、これらは高価なチップへの投資回収を減少させます。
Niv-AIのロードマップの第一歩は、GPUの電力使用状況を理解することです。同社は現在、所有するGPUや設計パートナーと協力し、ミリ秒単位で電力使用を検出するラックレベルのセンサーを展開しています。これにより、異なる深層学習タスクの特定の電力プロファイルを理解し、データセンターが既存の容量をより活用できるようにする緩和技術を開発する方針です。
エンジニアたちは、収集したデータに基づいてAIモデルを構築し、データセンター全体の電力負荷を予測・同期することを目指しています。Niv-AIは、今後6〜8か月以内に、米国の数か所のデータセンターでこのシステムを運用する予定です。
データセンターが特定の時間に過剰な電力を消費することを電力網が懸念していることから、Niv-AIの最終製品はデータセンターと電力網の間の「インテリジェンス層」となることを目指しています。
