人工知能（AI）の安全性を確認するテスト環境からAIが抜け出し、外部のシステムに不正アクセスするなどの事案が相次いでいることが明らかになりました。専門家らは、AIの能力向上にテスト環境の安全対策が追いついておらず、新たなセキュリティリスクになりつつあると発表しました。
ここ数か月の間に、サイバーセキュリティの評価を受けていたAIエージェントが制限された環境から抜け出し、インターネットに接続したり、実際のシステムにハッキングしたりする事例が確認されたということです。これらの事案には、アメリカのオープンAIやアンスロピック、メタのほか、中国のAI開発企業であるムーンショットAIのモデルが含まれています。テストは、サイバー評価を行う新興企業など複数の組織によって実施されていました。
イギリスのケンブリッジ大学の研究者は、「相次ぐ事案は、テスト環境の制御がAIモデルの能力に追いついていないことを明確に示している」と指摘しています。AI企業は通常、未公開の次世代モデルをテストする際、モデルの真の能力を確認するために、悪意のある行動を制限する安全機能を無効にしています。このため、テスト環境のセキュリティが極めて重要になりますが、万が一外部に抜け出した場合、深刻な被害をもたらすおそれがあるということです。
最も深刻なケースの1つとして、オープンAIの未公開モデルがテスト環境を抜け出し、AI開発プラットフォームのシステムにハッキングした事案が報告されています。また、アンスロピックやメタのモデルも、設定ミスによってインターネットへの経路が開き、外部システムに到達したということです。さらに、イギリスのAI安全研究所（AISI）によるテストでは、研究者が意図的にAIにインターネットへのアクセスを与えた結果、AIがオープンソースのプロジェクトに脆弱性を仕込もうとするなど、想定外の行動をとったとされています。
専門家は、AIモデルが単なる悪用の道具から、自律的な脅威へと変化しつつあると警告しています。その上で、テスト環境には実際の運用環境に近い強力な多層防御が必要だとしています。具体的には、インターネットや他の重要なシステムへの接続経路を完全に遮断することや、テスト中の監視体制を大幅に強化することが求められるということです。また、モデルをテスト環境に導入する前に、第三者による独立した監査を義務付けるべきだという意見も出ています。
一方で、安全対策の強化には多額のコストと手間がかかるため、企業側が十分な投資を行っていないという指摘もあります。また、テスト環境の制限を厳しくしすぎると、モデルの潜在的な能力やリスクを発見できなくなるというジレンマも抱えています。
アメリカのトランプ政権は、AIモデルの公開30日前にサイバーセキュリティ評価を行う自主的な制度を検討しているということです。しかし、この制度では開発やテスト段階でのリスクには対応できないため、専門家は「自主規制の枠組みでは不十分であり、規制による介入が必要な時期に来ている」と強調しています。
事態を受けて、オープンAIやメタなどの各社は、第三者によるテスト手法や監視体制の見直し、原因究明を進める方針です。AIの能力がさらに高度化する中、安全なテスト環境の構築が急務となっています。