フランスのスタートアップ企業「Kog」は、AI（人工知能）の推論処理において、既存のGPU（画像処理半導体）の性能をソフトウェアの最適化によって大幅に引き上げる技術の開発に注力すると発表しました。
AIの推論処理を高速化する競争が激化する中、市場ではAI専用に開発された半導体が注目を集めています。しかし、同社は、企業がすでにデータセンターに導入している標準的なGPUを活用し、ソフトウェアの改良によってさらなる処理能力を引き出せるとしています。
同社は今年5月、既存のハードウェアを用いた技術のデモンストレーションを公開しました。この技術は、新たな設備投資なしに処理能力を向上させるものとして高い関心を集め、200件に上る具体的なビジネスの引き合いがあったということです。
ガエル・デラローCEO（最高経営責任者）によりますと、主なターゲットとしてソフトウェア開発などの分野を見込んでいるということです。現在、AIを活用した専門的な業務では、結果が出るまでに長時間を要することが課題となっています。同社の技術を導入することで、処理の遅延を解消し、業務の効率化や企業の収益向上につながるとしています。
一方で、顧客の多くは小規模なAIモデルの調整には消極的であることが分かったということです。このため同社は現在、需要の高い「大規模言語モデル（LLM）」の処理を高速化する開発に全面的に注力する方針です。
これまでの実証実験では、小規模なモデルを用いて非常に高速な処理を達成しました。デラローCEOは、この手法がデータサイズが大きい大規模言語モデルにも応用できると自信を示しており、「最新のGPUにはまだ十分に活用されていない処理能力があり、将来性は高い」としています。
デラローCEOは、物理学を学んだ後、サイバーセキュリティーの分野でシステムの脆弱性を探る専門家として活動した経歴を持っています。この経験を生かし、GPUの動作を根本から解析する「リバースエンジニアリング」の手法を用いて、ハードウェアの限界を引き出すアプローチをとっているということです。
この手法は手作業による解析に数週間から数か月を要するため、当面は対応できる半導体の種類が限られるとしています。しかし将来的には、この工程を自動化し、より多くの半導体やAIモデルに対応させる計画です。
ヨーロッパでは現在、AIや半導体分野での技術的な自立を目指す動きが強まっています。フランスの政府系金融機関などからも支援を受ける同社は、こうした政策的な追い風も受けて事業を拡大させる構えです。
同社は今後、大規模言語モデルにおいて従来の10倍の処理速度を実証し、新たな資金調達につなげていく方針です。