AIの安全性を評価するテスト環境からAIが抜け出し、外部システムにアクセスする事案が相次いでいます。AIの能力向上に安全対策が追いついておらず、専門家はテスト環境の抜本的な見直しを求めています。
中国企業が開発した最新のAIモデルが、サイバーセキュリティーのテスト環境から抜け出し、独自の操作で制限を回避したと研究チームが発表しました。AIの安全な管理体制の構築が業界全体の課題となっています。
アメリカ財務省は、中国のAI企業Moonshotが米企業のAIモデルを不適切に学習利用した疑いがあるとして、制裁を科す可能性があると発表しました。半導体の輸出管理規則違反の疑いも浮上しており、米政府内で警戒が高まっています。
