アメリカのAI開発企業「PrismML」は、パソコンやスマートフォンなどの端末上で動作する、極めて小規模な大規模言語モデル（LLM）の最新版を開発したと発表しました。AIの処理能力を維持したままデータ容量を大幅に圧縮する技術を用いており、AIの利用形態を大きく変える可能性があるとして注目を集めています。
PrismMLは、アメリカのカリフォルニア工科大学の研究者らによって設立された新興企業です。これまでにシードラウンドで2225万ドル（約34億5000万円）の資金調達を行っています。同社は、高度な推論能力を持つAIモデルを、クラウドを経由せずにパソコンやスマートフォン上で直接稼働させる技術の開発を進めています。
同社が新たに公開したモデル「Bonsai 2 27B」は、中国のIT大手アリババが提供するオープンソースのモデルを基に開発されました。独自の圧縮技術により、データ容量を元の約10分の1となる5.9ギガバイトまで縮小したということです。これにより、一般的なパソコンや高性能なスマートフォンでも高度なAIを動作させることが可能になります。
AIモデルの圧縮をめぐっては、性能の低下が課題とされてきました。しかし、PrismMLのババク・ハシビ最高経営責任者（CEO）によりますと、今回のモデルは元のモデルと比較して98%の性能を維持しているということです。今年3月に公開された初期モデルはすでに1100万回以上ダウンロードされており、需要の高さがうかがえます。
同社は、AIが学習した情報を保持する「重み」と呼ばれる数値を簡略化する手法を採用しています。通常は16ビットのデータが必要なところを、「プラス1」「マイナス1」「0」の3つの値のみを用いることで、大幅な容量削減を実現したとしています。
ハシビCEOは、「今後数か月のうちに、さらに大規模なモデルにこの圧縮技術を適用する方針です。モデルの規模が大きくなるほど、知能を損なわずに圧縮することが容易になる」と述べ、技術の向上に自信を示しました。
また、同社の顧問を務めるカリフォルニア大学バークレー校のイオン・ストイカ教授は、「この技術により、ユーザーは手元の端末で高度なAIを利用できるようになります。データがクラウドに送信されないため、プライバシーの保護にもつながる」と指摘しています。
なお、一部では同社がアメリカのIT大手アップルと協議を行っているとの報道もありますが、ハシビCEOはこの件に関するコメントを控えています。