米スタートアップのUnderdogは、32MB（メガバイト）と非常に小型の音声生成モデル「Woof」を公開しました。インターネット接続なしでほとんどの端末上で動作し、誰でもダウンロードできるオープンなモデルだとしています。大規模なAIモデルが主流となる中、端末側で動く小型モデルの実用性を示す事例として注目されます。
ポイント
- Underdogが32MBの音声生成モデル「Woof」を公開
- パラメータ数は3100万で、オフラインでも動作
- ブラウザで動くデモゲームも公開
- 数週間前には167MBの音声認識モデル「Bark」も公開
- 270億パラメータのモデルやウェイトリスト制アプリも展開
小型モデル「Woof」の特徴
Woofはパラメータ数が3100万の音声生成モデルです。Underdogによると、インターネット接続がなくてもほとんどのデバイスで動作します。モデルはオープンで、誰でもダウンロード可能です。
このモデルを使ったデモゲームでは、レトロな技術をテーマにした部屋が登場します。タイプライターやブラウン管モニター、スイッチを押すと音が鳴る卓上ランプなどが配置されています。
ゲーム内では、キーボードでタイプライターに文字を入力すると、その内容を音声で読み上げます。また、チューナーを回すとさまざまな音楽を生成できます。これらはすべてブラウザ上で動作します。
開発の背景
Underdogの創業者であるSigil Wen氏は、TechCrunchに対し、アプリを開発した理由を語っています。Granolaのようなノート作成ツールを使う代わりに、ユーザーの端末上で動作し、データをユーザー自身が管理できるAIモデルを使ったシステムを作りたかったということです。
同氏は「数カ月以内に、今日のほとんどの高性能モデルを、すでに持っている端末上で動かせるようになるだろう」と述べました。その上で「米国製でオープン、高性能で、人々がプライベートなAIを持てるような最高のオープンモデルを訓練したい」と、自身のマニフェストに触れて話しました。
今後の展開
Underdogは今回のWoofに加え、数週間前に167MBの音声認識モデル「Bark」も公開しています。Barkもエッジデバイス上での文字起こしやディクテーション（音声入力）を目的としたモデルです。
さらに同社は、ノートパソコン上で動作する270億パラメータのモデルも公開しています。加えて、MuseやInstinctのローカルホスト型代替を目指すアプリも提供しており、こちらはウェイトリスト方式で提供されています。
