アメリカ・ニューヨークに拠点を置くAI（人工知能）検出技術を開発するスタートアップ企業「Pangram」は、インターネット上に急増するAI生成コンテンツへの対策を強化するため、900万ドル（約13億9500万円）の資金調達を実施したと発表しました。あわせて、最新のテキスト検出モデルと画像検出モデルの提供を開始したということです。
今回の資金調達は、ベンチャーキャピタルのメンロ・ベンチャーズが主導し、複数の投資家が参加しました。同社はこれに合わせて、次世代のテキスト検出モデル「Pangram 4」と、画像検出モデル「Pangram Image」を発表しました。
同社によりますと、新しいテキスト検出モデルは99%以上の精度でAIが作成した文章や、人間とAIの文章が混在したコンテンツを特定できるとしています。また、AIの文章を人間が書いたように偽装するプログラムも容易に検出できるということです。画像検出モデルについては、現在は研究目的のプレビュー版として提供されており、数週間以内に一般向けに公開する方針です。
同社は、スタンフォード大学でAIと機械学習を専攻したマックス・スペロ氏とブラッドリー・エミ氏によって約2年前に設立されました。「ChatGPT」の登場以降、インターネット上にボットやAI生成による粗悪なコンテンツ、さらには偽情報キャンペーンが氾濫したことが背景にあるとしています。
スペロ氏はアメリカのIT専門メディアの取材に対し、「読んでいるテキストがAIによって生成されたものかどうかを知ることは非常に重要です。それによって、情報の正確性を疑ってかかるべきか、実際のジャーナリストによる信頼できる調査に基づいているかを判断できるからです」と述べています。
同社のAI検出システムは、人間が書いた数千万件の文書を学習した大規模な機械学習モデルに基づいています。さらに、それぞれの文書のトピックや長さ、語り口を複製し、最新のAIに書かせた「合成ミラー」を作成して学習させているということです。これにより、AIが継続的に選択する文体的な違いを学習し、高い精度でAI生成コンテンツを識別できるとしています。コピー＆ペーストのメタデータや隠された電子透かしには依存していないということです。
近年、AIの利用が一般的になる一方で、不適切な使用による問題も起きています。政治家がAIの回答をそのまま読み上げて批判を浴びたり、弁護士がAIの作成した架空の判例を引用して制裁を受けたりする事例が報告されています。学術界でも対策が進んでおり、オープンアクセスの論文アーカイブ「arXiv」は今年、著者がAIの出力を適切に確認していない証拠が見つかった場合、1年間の投稿禁止処分とする新たな方針を導入しました。
こうした中、AI検出技術への需要は高まっており、複数の競合企業も同様の技術開発を進めているということです。
Pangramのサービスは、月額20ドル（約3100円）のサブスクリプションを通じてウェブ上で利用できるほか、ブラウザの拡張機能としても提供されています。この拡張機能を使用すると、SNSやブログなどの画面上で、人間とAIのコンテンツの割合をリアルタイムで分析し、表示することができます。
また、企業向けにAPIを通じた技術提供も行っています。ニュースレター配信プラットフォームの「Substack」は最近、この技術を導入し、著者がAIを使用しているかどうかを読者に明示する仕組みを取り入れました。教育機関や出版社、採用担当者なども顧客に含まれているということです。
専門メディアによる検証では、Pangramのテキスト検出モデルはAIが完全に生成した記事を容易に特定し、人間が編集を加えても誤認識することは少なかったということです。一方で、人間が書いた文章の一部をAIが支援したと誤って判定するケースもわずかに見られ、完璧ではないものの高い精度を示したとしています。また、画像検出モデルについても、ピクセルレベルの分布を分析することで、実写風からアニメ調までAI生成画像を正確に識別できたということです。
スペロ氏は、この技術がAI利用者を不当に非難するためのものではないと強調する一方で、粗悪なコンテンツに対抗する仕組みが必要だと指摘しています。「AIコンテンツは今後も増え続けるでしょう。人間が作成したコンテンツを意図的に保護しなければ、AIの情報に埋もれてしまい、人間の声がかき消されてしまう恐れがあります」として、技術の重要性を訴えています。
