AI推論サービスを提供する企業「ベーステン」は、自社の研究部門である「ベース・ラボ」を通じて、オープンウェイトモデルの安全性を評価し監視するための新たなインフラ基準を立ち上げ、「ハギングフェイス」および「グッドファイアAI」と提携したと発表しました。
今回の発表は、無償で公開されているオープンモデルの安全性を巡る議論が高まる中で行われました。現在、「アブリタレーション」と呼ばれる手法によってAIモデルの安全保護機能が取り除かれ、悪用される危険性が指摘されています。AIモデルを共有するプラットフォームであるハギングフェイス上には、すでに安全保護機能が解除されたモデルが6000以上も存在しており、問題の規模は拡大しているということです。
ベーステンが今年設立した研究部門のベース・ラボは、今後、オープンモデルの学習や監視に関する手法を開発し、公開していく方針です。同社は、事後的に安全対策を追加するのではなく、モデルの学習や運用の過程に組み込まれた透明性の高い「基準」を策定するとしています。
同社はSNSのX上で、「オープンであることはAIの安全性において強みになると信じています」と述べています。さらに、「モデルの振る舞いをより可視化でき、非公開のモデルよりも透明性の高い制御が可能になる」として、技術の公開が安全性の向上につながるという見解を示しました。
提携の技術的な詳細については明らかにされていません。しかし、グッドファイアAIは「安全性はオープンモデルに組み込まれ、モデルを提供する側によって担保されなければならない」とコメントしています。同社はAIの意思決定の仕組みを解明する技術に強みを持っており、安全性の「組み込み」において中心的な役割を担うとみられています。
ベーステンは今年6月、シリーズFの資金調達で15億ドル（約2325億円）を調達し、企業価値は130億ドル（約2兆150億円）に達しました。また、提携先のグッドファイアAIも今年、シリーズBで1億5000万ドル（約233億円）を調達しており、両社ともに強固な財務基盤を背景に技術開発を進める方針です。
今後、ベーステンは広く開発者に対して、この安全基準の枠組みへの参加と協力を呼びかけていく方針です。同社は「安全で誰もがアクセスできるオープンモデルのエコシステムを共に構築していく」としています。
