最先端の人工知能＝AIの安全な開発を推進する専門組織は、主要なAI開発企業の大半が、AIが人間の制御を逃れて暴走した際の具体的な封じ込め計画を公開していないとする調査結果を発表しました。
この調査は、安全基準の策定に取り組む組織「Guidelight AI Standards」が、Anthropic、Google、OpenAI、Meta、xAIの5社が公開している安全対策の計画を基に評価を行いました。AIシステム内部の監視体制や、異常な行動を検知した際のシステム停止手順、第三者による監査の有無などが基準となっています。
近年、自律的にタスクをこなす「エージェント型AI」の能力が向上しています。一方で、AIが安全性の評価中に意図せずインターネットに接続したり、外部システムに侵入したりする事案が発生しており、企業がAIを適切に制御できるかどうかに懸念が高まっているということです。
調査の結果、最も高い評価を受けたのはOpenAIでした。同社は過去に安全上の問題を発見した際、AIの運用や学習を一時停止した実績があるためです。一方、AnthropicとMetaは最も低い評価となりました。Anthropicは安全性を強調しているものの、異常発生時にAIの運用を制限する具体的な計画が確認できず、Metaについても封じ込め計画を導入する方針は確認できなかったとしています。
これに対し、GoogleやOpenAIの担当者は「公開されている情報が社内の安全対策のすべてではない」と説明しています。また、Metaは具体的な封じ込め計画の有無については回答を控え、既存のAIリスク管理の枠組みを参照するよう求めたということです。 専門家は、企業が詳細な計画を公開しない背景には、約束を果たせなかった場合に不当な表示として法的責任を問われるリスクを避ける狙いがあるとしています。
こうした中、アメリカではAIに対する規制を強化する方針が相次いで打ち出されています。カリフォルニア州では今年、大規模なAI開発企業に対し、重大な安全上の問題への対応方針を公開するよう義務付ける法律が施行されました。ニューヨーク州でも来年1月に同様の法律が施行される予定です。 さらに先月には、アメリカ連邦議会で、主要なAI開発企業に対し、暴走したAIを強制停止させる「キルスイッチ」の導入を義務付ける超党派の法案が提出されました。
Guidelightの主任研究員で、かつてOpenAIで安全対策を担当していたスティーブン・アドラー氏は、「AI企業が深刻な事態にどう対応するかについて、ほとんど言及していないことに驚いた」と述べています。そのうえで、「企業は事前に対応策を検討しておくべきであり、たとえ公表していなくても、社内で計画が準備されていることを望む」として、事前の危機管理の重要性を強調しています。