人工知能（AI）の開発企業が悪用を防ぐために設けている安全対策、いわゆる「ガードレール」が、サイバー攻撃からシステムを守る専門家たちの正当な研究活動を妨げているという課題が浮き彫りになっています。専門家からは、過度な制限が防衛能力の向上を阻害しているという懸念の声が上がっています。
ここ数か月間、大手AI企業は、悪意のあるハッカーによるAIモデルの利用を制限するため、厳格な安全対策や事前の審査プログラムを導入しています。しかし、こうした制限が、正当なネットワーク防衛者や、システムの脆弱性を探るサイバーセキュリティ研究者の業務を妨げているということです。
今年6月、アメリカ政府はAI開発企業「アンソロピック（Anthropic）」のAIモデルに対し、輸出管理の制限を課しました。この措置は、サイバー攻撃の構築を防ぐための安全対策が回避される可能性があるという報告を受けたものとみられています。
アンソロピックや「オープンAI（OpenAI）」などの企業は、サイバーセキュリティ研究者向けに特別なプログラムを提供しています。事前の審査を通過した研究者に対しては、セキュリティ上の制限を緩和したAIモデルへのアクセスを認める方針です。
しかし、こうした企業の安全対策に対しては、システムの未知の脆弱性を発見し、犯罪者に悪用される前に対策を講じることを専門とする研究者から批判が相次いでいます。
著名なセキュリティ研究者であるマーク・ダウド氏は、「巨大企業がセキュリティの安全性について恣意的な決定を下していることに違和感を覚える」と指摘しています。
また、セキュリティコンサルティング大手「NCCグループ」のクリス・アンリー氏は、AIモデルにバグの悪用を試みさせることは、それが修正すべき本当の脆弱性であるかを確認するための重要な手順だと説明しています。同氏によれば、安全対策によってAIが回答を拒否した場合、防衛者の作業に支障をきたすということです。
アンリー氏は、「コードの修正を求める指示は、防衛に不可欠であると同時に、脆弱性を見つけるための手段でもあります。同じツールが攻撃用にも防衛用にもなるため、両者を切り離すことはできません」と述べています。
制限に直面した研究者の中には、安全対策が組み込まれていないオープンソースのAIモデルを使用するケースもあるということです。
政府機関向けに脆弱性の情報を提供する企業「クラウドフェンス（Crowdfense）」のパオロ・スタグノ氏も、AI企業が「顧客を監視が必要な子どものように扱っている」と批判しています。同氏らは、機密データの漏えいを防ぐため、脆弱性の発見にはクラウドベースのAIを使用せず、手元で実行できるオープンソースのモデルを使用しているとしています。
さらに、サイバーセキュリティ企業「リモートスレット（RemoteThreat）」のクリス・トンプソン氏は、安全対策の基準が一貫しておらず、AIモデルが意図した通りに動作しない原因を探ることに多くの時間を費やしていると指摘しています。
その結果として、研究者たちが審査や利用制限のない中国製のオープンソースモデルなどに流れる傾向があるということです。トンプソン氏は、「責任ある研究者がアメリカの管理下にあるシステムから遠ざけられていることは、利益よりも害が大きい」と警告しています。
トンプソン氏は、AI開発企業に対してプログラムをさらに開放し、責任あるアクセスを提供するとともに、悪用した者に対して責任を問う仕組みを構築するよう求めています。制限がこのまま続けば、防衛者側がサイバー攻撃の脅威に対応できなくなるおそれがあるとしています。