アメリカのAI開発企業、アンスロピックは、自社の対話型AI「クロード」が生成した文章に埋め込む「電子透かし」の仕組みについて、詳細を明らかにしたと発表しました。これは、AIが生成したコンテンツを識別可能にすることを求めるヨーロッパ連合（EU）のAI法に対応するための措置だということです。
アンスロピックは今週初め、EUのAI法における透明性規範を遵守するため、電子透かしを導入する方針を示していました。この発表を受けて、インターネット上では利用者の間で議論が起きており、一部の報道によりますと、サービスの有料契約を解約する動きも出ているということです。
アンスロピックが公式ブログで説明した内容によりますと、電子透かしは文章の品質に影響を与えないとしています。例えば、天気を表現する際に「曇り」と「灰色」のどちらを選ぶかといった影響の少ない選択において、特定のパターンを生成する仕組みです。このパターンは一般の読者には認識できませんが、専用のシステムを使えば検出できるということです。
具体的には、グーグルのAI研究部門であるディープマインドが2024年に発表した「SynthID-Text」と呼ばれる技術を採用するとしています。また、透かしを検出するためのシステムを公開する予定です。アンスロピックは、文章の癖を分析してAIの使用を判定する従来の検出ツールとは根本的に異なる技術だと説明しています。
利用者が文章を編集して透かしを隠せるかという疑問に対し、アンスロピックは「軽い編集では完全に消去することは難しい」としています。すべての単語を置き換えるような全面的な書き直しを行えば透かしは消えますが、その場合、もはやAIが生成した文章とは言えない可能性があると指摘しています。また、AIが文章の校正や軽い編集のみを行った場合、透かしが付与される余地はほとんどないということです。
一方、プログラミングのコードについては、正確に動作することが求められるため、単語の選択の自由度が低く、一般的な文章に比べて透かしが入りにくくなるとしています。コード内のコメントなど、任意の言葉を選べる部分には透かしが適用されますが、実際のプログラムへの影響は無視できるレベルだということです。
アンスロピックは、他の主要なAI開発企業もEUの同じ規範に署名していると指摘しました。今後、他の対話型AIにおいても、同様に電子透かしが導入されていく見通しだということです。