アメリカのIT大手「オープンAI」は、企業向けサービスの利用者を対象に、顧客のデータを保持せずにAIの悪用を監視する新たなプライバシー保護機能の提供を開始したと発表しました。競合する「アンスロピック」との差別化を図るねらいがあるということです。
AIモデルの性能が向上するに伴い、悪用のリスクも高まっており、これを防ぐための安全対策が強く求められています。AI開発企業は現在、顧客企業のプライバシーを尊重しつつ、利用状況を監視して問題を防ぐという難しい対応を迫られています。
こうした中、オープンAIは、プライバシーに配慮した新たな安全対策「プライベート・セーフティ・プロセッシング」を発表しました。これは、顧客のデータを一切保持せずに、自動化されたシステムで潜在的な悪用を監視する仕組みで、現在一部の顧客向けにプレビュー版として提供されています。
このシステムは、競合するアンスロピックが最近発表したデータ保持方針とは対照的なアプローチとなります。アンスロピックは今年7月、安全性の確保を目的として、特定の高度なモデルを対象に、ユーザーのすべての通信や会話データを30日間保持する方針を打ち出しました。対象となるのは、「ミトス（Mythos）」クラスのすべてのモデルや、「同等の機能を持つ将来のモデル」だということです。しかし、この方針は、機密性の高いデータを大量に扱い、AI企業によるデータの保持や閲覧を望まない一部の企業から強い懸念を呼んでいました。
オープンAIをはじめとする多くのAI企業は、すでに「ゼロ・データ・リテンション（データ非保持）」と呼ばれる方針を採用し、一定のプライバシー保護を提供しています。これは、システム内の自動化されたプログラムが通信ごとに悪用を監視する仕組みで、人間の介入なしに不正な活動を検知できるとしています。アンスロピックも基本的にはこの方針に従っていますが、「フェイブル（Fable）」などの対象モデルにおいては例外としています。
オープンAIによりますと、今回発表された新技術は、このデータ非保持の適用範囲をさらに広げるものだということです。単一の会話だけでなく、複数の会話にまたがる入力と出力を長期的に評価することが可能になるとしています。監視は自動化されたプログラムによって行われ、悪用の兆候が検出された場合のみ、システムが作動する仕組みです。
同社の広報担当者は、この新技術により、複数回にまたがる悪意のある利用を検知できるようになるとしています。例えば、サイバー攻撃のための不正プログラムを開発しようとする悪意のあるユーザーが、検知を逃れるために要求を複数回に分けて行った場合でも、人間の目を通すことなく悪用の兆候を分析できるということです。
システムが作動した場合、特定の活動を警告する限定的な信号がオープンAIに送信されます。同社はそれに基づいて対応が必要かどうかを判断し、必要に応じて顧客に連絡を取って状況を確認する方針です。その際、顧客は自身の判断でデータをオープンAIと共有するかどうかを選択できるとしています。
一方、アンスロピックでは、承認された少数の担当者が管理された経路を通じて顧客データを確認する場合があるとしています。その際、すべての確認作業は改ざん不可能な記録として残されるということです。
現在、オープンAIとアンスロピックの企業間の競争は激しさを増しています。最近の報告によりますと、オープンAIの第2四半期の成長率はアンスロピックを下回ったということです。アンスロピックの年間の収益見通しは現在、650億ドル（約10兆750億円）に上ると報じられています。また、同社の投資家は、新規株式公開（IPO）時の企業価値が2兆ドル（約310兆円）に達する可能性があると予測しており、オープンAIも同様にIPOに向けた準備を進めているということです。