独立系のセキュリティ研究チームが、アメリカのAI企業「アンソロピック」のAIモデル「Claude」を使用して、競合する「オープンAI」のシステムへの侵入に成功したと発表しました。AIの能力向上に伴う新たなセキュリティの課題が浮き彫りになっています。
アメリカの有力紙、ウォール・ストリート・ジャーナルの報道によりますと、新興企業「Hacktron AI」の3人のセキュリティチームは、オープンAIが設けているシステムの欠陥を発見した際の報奨金プログラムの一環として、今回のサイバー攻撃の検証を実施したということです。
チームは、2つの重大な脆弱性を組み合わせて、複数のオープンAI従業員の「ChatGPT」アカウントにアクセスし、社内のソフトウェアに侵入することに成功したとしています。Hacktronは発見した脆弱性をオープンAIに報告し、6500ドル（約100万円）の報奨金を受け取ったということです。オープンAIはすでに問題を修正したとしています。
今回の事案は、AIモデルが自律的な判断を下す能力を急速に高めていることを示しています。AIセキュリティ企業「Gray Swan」のマット・フレドリクソンCEOは、「月額200ドル（約3万1000円）で誰でもこれらのツールを使用し、オープンAIのような企業をハッキングできる状況にあります」と指摘しています。さらに、「セキュリティ対策を怠っていないはずのオープンAIで起きたのであれば、どの企業でも起こり得るということです」と警鐘を鳴らしています。
研究チームによりますと、侵入の糸口となったのは、外部ソフトウェア「Discourse」の欠陥でした。これはオープンAIのコミュニティフォーラムで利用されているシステムです。スマートフォンの標準的な形式の画像ファイルをフォーラムに投稿した際、システム内で画像を変換するプログラムに潜んでいたメモリのバグを悪用し、サーバーを乗っ取ることに成功したということです。
セキュリティ業界にとって課題となるのは、このバグが数か月前に開発者によってすでに修正されていたという点です。しかし、業界標準の脆弱性として公式に登録されていなかったため、フォーラムのシステムでは古いバージョンがそのまま使用されていたとみられています。
また、研究チームは、当初使用していたアンソロピックのAIモデル「Opus 4.8」では攻撃プログラムを作成できなかったと明らかにしました。しかし、新たに公開された「Opus 5」に同じ課題を与えたところ、数時間で作成に成功したということです。
サーバーに侵入したチームは、さらに別の欠陥を発見し、オープンAIの従業員のアカウントを乗っ取ることに成功しました。これにより、オープンAIの社内開発環境にもアクセスできる状態になったとしています。チームはオープンAIとソフトウェアの開発元に警告を行い、7月27日に修正プログラムが配布されたということです。
今回の事案は、AIモデルの能力制限をどこに設けるべきかという議論に一石を投じています。高度なサイバー能力を持つAIモデルが次々と開発される中、各国の政府や企業にとってAIを活用したセキュリティ対策の強化が急務となっています。
Hacktronの創設者はSNS上で、「AIによって、かつては数か月かかっていた作業が数日で完了するようになっている」と指摘しており、専門的な知識がなくても高度なサイバー攻撃が可能になりつつある現状に危機感を示しています。