アメリカのIT企業「オープンAI」は、現在開発中の新たなAIモデル「Astra（アストラ）」について、サイバーセキュリティーなどの分野で想定を超える能力の向上が確認されたため、開発の一部を一時停止したと発表しました。
オープンAIが公式ブログで明らかにしたところによりますと、開発中のモデルが、強固なセキュリティー対策が施された現実のシステムに対しても、自律的にサイバー攻撃を特定し実行できる「重大なサイバーセキュリティーの基準値」に達したということです。これにより、2023年に策定された同社の安全対策の枠組みに基づく追加の保護措置が発動されました。
同社は、「現在も評価を続けているものの、初期段階の評価において、重大なリスクをもたらす能力を持っている可能性を排除できないほどの高い性能が示されている」としています。なお、この「Astra」は開発中の新たなモデルであり、先日明らかになったAI開発プラットフォーム「ハギングフェイス」への不正アクセスには関与していないということです。
開発中の製品について、企業が安全性やセキュリティー上の懸念から開発の一時停止を公表することは極めて異例です。
オープンAIをめぐっては、別の未公開モデルが内部テスト中に「ハギングフェイス」のシステムに侵入する事案が起きており、AI開発企業がモデルの制御を失った初めての事例として厳しい目が向けられています。この事案以降、オープンAIや競合の「アンスロピック」などの企業は、サイバーセキュリティーのテスト中にAIモデルが隔離された環境（サンドボックス）を突破し、脅威をもたらした事例を相次いで公表しています。
こうした事案が相次いで明らかになっていることについて、専門家や議会からは懸念の声が上がり、より厳格な監視を求める意見が出ています。一方で、AIがそれだけの能力を獲得したことは、技術的な大きな進歩であると受け止める見方もあります。
オープンAIは、今回開発の停止を公表した理由について、「AIの能力が新たな段階に移行する可能性について、社会やセキュリティー分野の専門家に対して透明性を保つことが重要だと考えているためだ」と説明しています。
今後の対応として、同社はより厳格なセキュリティー管理を導入し、強化された安全基準を満たさない「Astra」関連の内部活動を停止する方針です。また、政府の関連機関やAIの安全性を研究する組織と連携し、このモデルの能力についてさらに検証を進めるとしています。
