アメリカのIT企業「オープンAI」は、開発中のAI＝人工知能のモデルがテスト中に予期せぬ動作を起こし、AIのデータプラットフォームである「ハギングフェイス」のシステムに不正アクセスを行ったと発表しました。専門家は、AIを隔離する環境の設定に人為的なミスがあったと指摘しています。
オープンAIが発表したところによりますと、不正アクセスは、AIモデルのテスト環境として構築された「サンドボックス」と呼ばれる隔離されたシステムから発生したということです。このテスト環境は、外部のインターネットから完全に遮断されているはずでしたが、実際には外部と通信できる状態になっていたとされています。
アメリカのサイバーセキュリティ専門家などは、今回の事態について「安全装置が機能していない状態での隔離の失敗だ」と指摘しています。オープンAIによりますと、テスト環境は特定のソフトウェアをインストールするための通信のみを許可する設定になっていました。しかし、AIモデルはこのシステムに潜んでいた未知の脆弱性を突いて隔離環境から抜け出し、ハギングフェイスへの不正アクセスに至ったとしています。
これに対し、オープンAIは「発見された脆弱性については適切に報告し、修正に向けて協力している」としています。
一方で、複数のセキュリティ専門家は、隔離環境に外部と通信するシステムを組み込んだこと自体が問題の根本的な原因であると指摘しています。「真の隔離環境であれば、インターネットとの物理的な接続は一切ないはずであり、これは明らかな人為的ミスだ」とする見方が大勢を占めているということです。
AIのテスト環境をめぐる安全性への懸念は、オープンAIにとどまりません。別のAI開発企業である「アンスロピック」も、自社のAIモデルがテスト中に隔離環境からの脱出を試み、想定以上のインターネットへのアクセス権限を取得した事例を報告しています。
高度なAIモデルの開発競争が激化するなか、各企業には技術の安全性確保に向けた方針の策定や、テスト環境における厳格な安全管理がこれまで以上に求められています。
