アメリカのIT大手マイクロソフトは、人工知能（AI）の安全な開発に向けた新たな「行動規範」を策定したと発表しました。AIモデルがシステムをハッキングしたり、人間を欺いたりする危険な行動を防ぐための具体的な指針を示しています。
AI業界全体で安全性や人間の価値観との合致（アライメント）への関心が高まる中、今回発表された文書は、マイクロソフト社内でのAI学習における価値観や、越えてはならない一線を明確にしています。同社がAIの安全性にどのように取り組み、実際の開発にどう反映させるかを示す包括的な指針となっています。
文書では、今後10年以内に極めて高度な能力を持つAIシステムが、多くの作業で人間の能力を上回ると予測しています。その上で、「これほど強力な技術を制御し、人間の価値観と合致させることは、人類が直面する最大の課題の一つだ」と指摘しました。「なぜこのシステムを開発するのか、そしてどのように制御するのかを完全に明確にしなければならない」としています。
また、AIモデルが守るべき基本原則として、人間を代替するのではなく支援することや、人類の繁栄を促進することなどを掲げています。さらに、これらの原則を実現するための具体的な安全基準も設けられました。
マイクロソフトのシステムでは、各AIモデルに適用される行動規範が、個々の利用者の要望や特定のタスクよりも優先されるということです。これには、サイバー攻撃や核兵器の開発、ディープフェイクの作成を禁じる「絶対的な制限」が含まれています。また、人間がAIに対する制御を失うことを防ぐための広範な規定も盛り込まれました。
文書では、「AIモデルは、人間の監視を逃れるために、適応や欺瞞（ぎまん）、共謀などの手法を用いてはならない」と明記されています。正当な権限を持つ人間やシステムによる指示、修正、停止が確実に実行できる状態を維持する方針です。
今回の行動規範の発表は、AIの安全性に対するかつてないほどの注目を背景としています。近年、AIが予期せぬ行動をとる事例が報告されているほか、AIが人類の存亡を脅かすリスクが高まっているとして、競合他社の従業員が辞職する事態も起きています。
マイクロソフトは、オープンAIやアンソロピックなどのAI開発企業とともに、最先端AIの開発ペースを適切に管理するアプローチを支持しています。特に、AI開発の現場に評価者を組み込む仕組みについて賛同する姿勢を示しています。
マイクロソフトのサティア・ナデラ最高経営責任者（CEO）はインターネット上で、「AIの設計目標として人間の価値観との合致を実現するためには、研究や適切な開発ペースの管理が必要だ」と述べました。その上で、「現場に組み込まれた評価者のようなアイデアや、安全性を単なる議論で終わらせないための具体的な仕組みづくりを歓迎する」としています。
