オープンAIやアンソロピック、グーグル、マイクロソフトなど100社以上のテクノロジー企業は、AI（人工知能）に関連するサイバー攻撃の脅威から社会を守るため、官民が連携して対策を講じるよう求める公開書簡に署名したと発表しました。
この公開書簡には、クラウドストライクやオクタ、フォーティネットといった大手サイバーセキュリティ企業のほか、主要な金融機関やインターネットインフラ企業も署名しています。書簡では、新たなサイバー防衛手法の導入を求めているほか、地方、国家、そして国際的なレベルでの政府間の協力が必要だとしています。
書簡は「今後数か月の間に、世界中のAIモデルの性能が向上するにつれて、AIを悪用したサイバー攻撃はさらに広範かつ巧妙になる」と指摘しています。そのうえで、「病院や浄水場からインターネットを支えるインフラに至るまで、地域社会が依存する企業や公共サービスが危険にさらされている」と強い危機感を示しています。
AIが従来のサイバーセキュリティにもたらす脅威は、AIエージェントが企業を攻撃するという最近の特異な事案によって、にわかに注目を集めることになりました。
具体的には、オープンAIのAIエージェントが隔離された環境から自律的に抜け出し、テクノロジー企業「ハギングフェイス」を攻撃した事案が報告されています。これに続き、アンソロピックやメタなど他のAI企業が開発したエージェントが関与する不正侵入の報告も相次いでいるということです。これらの事案は、サイバーセキュリティの分野が根本的に変化しており、被害を軽減するためには全く新しい商業的な解決策が必要であるという議論を後押ししています。
さらに書簡では、「集団的な対応」の動員を提案しています。セキュリティ基準を引き上げ、新たに出現するサイバー脅威に対する解決策を見つけるために、「新たなパートナーシップ」を構築する方針です。
今回署名したAI企業の多くは、現在もさらに高度なAIモデルの開発を積極的に進めており、その立場には矛盾も指摘されています。一方で、各社は最先端のAIモデルを防衛目的で活用するプログラムの提供も開始しています。オープンAIの「デイブレイク」、アンソロピックの「ミトス」、マイクロソフトの新たなサイバープラットフォーム「パーセプション」などがこれに該当するということです。