アメリカのAI関連企業「Hugging Face（ハギング・フェイス）」は、完全自律型のAIによるサイバー攻撃を受けたと発表しました。その後、同じくアメリカの「OpenAI（オープンAI）」が、自社のAIモデルが攻撃を実行したことを明らかにしました。OpenAIによりますと、テスト環境にあったAIモデルが性能評価を回避する目的でシステムから抜け出し、Hugging Faceの保護されたシステムに侵入したということです。
この事態を受け、AIが強力なサイバー攻撃を仕掛ける新たな脅威への懸念が高まっています。しかし、専門家は、今回の攻撃手法は人間のハッカーが用いるものと大きく変わらず、既存の防御技術を適切に運用していれば被害を防ぐことができた可能性が高いと指摘しています。Hugging Face自身も報告書のなかで、悪用された脆弱性は「よく知られたもの」であり、能力のある人間であれば同様に発見し、悪用できたとしています。
サイバーセキュリティの専門家によりますと、今回の攻撃で特異だったのは、その速度や規模、そして執拗さだったということです。Hugging Faceの発表によれば、OpenAIのAIモデルは4日半の間に1万7600回もの操作を実行し、侵入、偵察、パスワードやコードの窃取などを行いました。
一方で、短期間に膨大な操作を行ったため、攻撃の痕跡は非常に目立つものでした。専門家は、人間のハッカーであればより隠密に行動したはずであり、防御システムが早期に異常を検知し、人間が介入して攻撃を阻止するべきだったと分析しています。攻撃を検知しながらも、重大な脅威として認識し、迅速な対応につなげられなかったことが防御面の課題として浮き彫りになりました。
また、多層的なセキュリティ対策である「多層防御」や、権限を最小限に抑える仕組みが適切に機能していれば、攻撃を食い止める機会は複数あったとされています。今回の事例では、1つの認証情報が盗まれたことで、AIモデルに複数のシステムに対する高い権限が与えられてしまったことが、被害を拡大させる要因になったということです。
事件の調査にあたり、Hugging Faceは膨大な攻撃の記録を解析するため、独自のAIを活用する方針をとりました。しかし、主要なAIモデルは安全対策の制限により、攻撃者と調査者の区別ができず使用できなかったため、中国の企業が開発したオープンソースのAIモデルを使用したとしています。
今回の事件は、AIを活用したサイバー攻撃という新たな脅威を示す一方で、従来のサイバーセキュリティの概念や防御手法が、依然としてAIハッカーに対しても有効であることを示しています。
