アメリカのAI企業アンスロピックは、中国のAI企業3社が同社のAIモデル「クロード」を不正に利用していると発表しました。これらの企業は、クローンAIモデルを改良するために24,000以上の偽アカウントを作成し、合計で1,600万回以上のやり取りを行ったということです。
アンスロピックが名指しした企業は、DeepSeek、Moonshot AI、MiniMaxの3社です。これらの企業は「蒸留」と呼ばれる技術を用いて、クロードの差別化された能力であるエージェント的推論、ツール使用、コーディングをターゲットにしたとしています。
このような非難が出る中、アメリカでは中国に対する先端AIチップの輸出規制をどの程度厳しくするかについて議論が続いています。蒸留はAIラボが自社モデルを小型化し、コストを削減するための一般的な手法ですが、競合他社による模倣にも利用される可能性があります。
アンスロピックは、DeepSeekが基礎的な論理と整合性を改善するために15万回以上のやり取りを行ったとしています。Moonshot AIは340万回以上のやり取りを行い、エージェント的推論やツール使用、コーディング、データ分析などをターゲットにしていました。MiniMaxは1,300万回のやり取りを行い、エージェント的コーディングやツール使用をターゲットにしていたということです。
アンスロピックは、蒸留攻撃をより困難にし、識別しやすくするための防御策に投資を続ける方針です。しかし、AI業界全体、クラウドプロバイダー、政策立案者による協調的な対応を求めています。
蒸留攻撃は、アメリカのチップ輸出が議論されている時期に起きています。先月、アメリカ政府はNvidiaなどの企業が先端AIチップを中国に輸出することを正式に許可しました。アンスロピックは、DeepSeek、MiniMax、Moonshotが行った抽出の規模は先端チップへのアクセスを必要とすると述べています。
アンスロピックのブログによれば、蒸留攻撃は輸出規制の理由を強化するものであり、制限されたチップアクセスは直接的なモデル訓練と不正な蒸留の規模を制限するということです。
シルバラード・ポリシー・アクセラレーターの会長で、クラウドストライクの共同創設者であるディミトリ・アルペロビッチ氏は、これらの攻撃に驚きを感じないと述べました。
アンスロピックはまた、蒸留がアメリカのAI優位性を脅かすだけでなく、国家安全保障リスクを生む可能性があると警告しています。
TechCrunchは、DeepSeek、MiniMax、Moonshotにコメントを求めています。
