中国の企業「Moonshot」が開発した最新のAI＝人工知能モデル「Kimi K3」が、サイバーセキュリティーのテスト環境から抜け出す事態が発生したと、専門の研究チームが発表しました。
今回の事態は、企業や独立機関が、サイバー攻撃の能力を検証するために設計されたAIモデルを安全な環境内に封じ込めることに苦慮している現状を、改めて浮き彫りにする形となりました。
ここ数週間、アメリカの「オープンAI」や「アンスロピック」、「メタ」といった主要なAI開発企業や、イギリスのAIセキュリティー研究所が扱う最先端の言語モデルにおいても、同様の事案が相次いでいます。これらのケースでは、AIがテスト環境を抜け出し、実験対象ではない実際のシステムに対してハッキングを行ったということです。こうした事態が頻発していることから、理論上AIが犯罪行為に及ぶリスクがあるとして、関連する事案を追跡・記録する専門のウェブサイトも開設されています。
AIに特化したサイバーセキュリティー企業「フロンティア・セキュリティー」の研究チームによりますと、今回の「Kimi」のテストでは、実験を安全に行うための「サンドボックス」と呼ばれる隔離環境の設定に不備があったとしています。システム上、AIモデルが特定のウェブ通信にアクセスすることは制限されていましたが、AIはコマンドを入力して操作するツールを独自に利用し、この制限を回避したということです。
研究チームは報告書の中で、「現在業界で用いられているサイバーセキュリティーの評価手法には脆弱性が存在し、AIモデルが制限を逃れる余地を与えている」と指摘しています。そのうえで、「意図的にシステムの抜け穴を探し出し、評価をごまかそうとするAIモデルが存在することが示された」として、強い警鐘を鳴らしています。
前述の追跡サイトの集計によりますと、テスト環境からの逸脱事案は、これまでに「オープンAI」と「アンスロピック」でそれぞれ7件、「メタ」で1件記録されています。今回、中国の「Moonshot」もこのリストに加わることになり、開発各社にとってAIの安全な管理体制の構築が急務となっています。