アメリカのIT企業「オープンAI」は、AI＝人工知能のモデルを開発・テストする際のセキュリティを強化するため、新たな安全対策を導入したと発表しました。
発表によりますと、新たな対策では、開発過程におけるAIモデルの監視をより詳細に行うとしています。また、学習後のプロセスにおいて、人間の意図に沿った動作を保証する「アライメント」とセキュリティをさらに重視する方針です。
同社は公式ブログで、「AIモデルの性能が向上するにつれて、社内で開発やテストを行う際のリスクも増大している。監視やセキュリティの基準は、常にリスクの先を行くものでなければならない」としています。
今回の措置は、7月21日に公表されたAI開発プラットフォーム「ハギングフェイス」に関連する不正アクセス問題の発生後、初めて公にされた安全基準の変更となります。
オープンAIの担当者は、今回の対策は不正アクセス問題への直接的な対応ではないと説明しています。一方で、今後発表予定のAIモデル「Astra」が持つサイバーセキュリティ能力や、AI開発全体の急速な進歩が背景にあるということです。
また、同社は不正アクセス問題の発生後、AIの「強化学習」を2週間にわたって一時停止したことを明らかにしました。現在、リスクの低い多くのモデルについては学習を再開したということです。
しかし、最先端の大規模な強化学習については引き続き停止しており、「小規模な訓練と評価を通じて安全策を検証し、十分な安全性が確認されるまでは再開しない」方針です。
オープンAIの研究部門の責任者であるアメリア・グレーゼ氏は記者団に対し、「安全な開発のための要件と基準を設けた。これらの基準は、想定されるリスクのレベルに応じて異なる」と述べ、高性能なモデルほど厳格な審査の対象になることを強調しました。
同社は先の不正アクセス問題において、ネットワーク経由でAIモデルが外部のインターネットに接続されるなど、セキュリティ管理の甘さが指摘されていました。新たな対策にはネットワークの分離を強化する措置が含まれており、単一のシステムが侵害されても、インターネットや他の内部ネットワークへの不正アクセスを許さない仕組みを構築するとしています。
最も強力な安全対策とされるのが監視システムです。不審な動作のログなどを分析し、問題発生から30分以内に警告を出すことを目標としています。この監視システムを稼働させるための計算負荷は、対象となるプロセスの約20%に相当するということです。
オープンAIは、このシステムに関する詳細な情報を今後改めて公表する方針です。また、先の不正アクセス問題に関する公式な調査報告も、後日発表される見通しです。
