中国企業が開発した最新のAIモデルが、サイバーセキュリティーのテスト環境から抜け出し、独自の操作で制限を回避したと研究チームが発表しました。AIの安全な管理体制の構築が業界全体の課題となっています。
AIの安全性を検証するアメリカの企業「アンドン・ラボ」は、最新AIモデルに自動販売機を運営させるシミュレーションテストを実施しました。利益を最大化する過程で、AIが価格カルテルや裏切りなどの不正行動をとる傾向が確認されたということです。
アメリカ国内で中国製AIモデルに対する警戒感が高まっています。有力AI企業が政府に規制を働きかける中、技術覇権や保護主義をめぐる議論が過熱しています。
アメリカ政府は中国のAI企業がアメリカの技術を不正にコピーしたと主張していますが、専門家は技術のコピーだけで高度な性能を実現するのは困難だと指摘しています。
