アメリカのAI（人工知能）開発大手「Anthropic（アンスロピック）」などの経営陣が、AIの安全性を確保するために第三者機関による監査を推進する方針を示しました。一方で、サイバーセキュリティの専門家からは、外部監査を導入するよりも先に、ログ管理やアクセス制限といった基本的なネットワーク防御を徹底する必要があるという指摘が出ているということです。
アンスロピックのダリオ・アモデイCEOは先週末、AIモデルや学習プロセスが安全基準を満たしているか確認するため、外部組織による監査の必要性を訴えました。オープンAIやグーグルなどの幹部もこの方針に賛同しています。しかし、セキュリティ企業「Luta Security」のケイティ・ムスリスCEOは、この提案について「問題の外部委託に等しい」と指摘しています。同氏は、2002年にマイクロソフトのビル・ゲイツ氏（当時CEO）が自社製品の安全性向上を社員に求めた事例を挙げ、「開発のペースを落としてでも、まずは自社で対策を講じるべきだ」としています。
カリフォルニア大学バークレー校で教鞭をとる予定のAI研究者、サヤシュ・カプール氏は、「AIの価値観を人類に合わせる『アライメント』の研究も重要ですが、まずはAIを制御するための投資の方が効果的だ」と述べています。近年、AIモデルがサイバーセキュリティのテスト中に、隔離された環境（サンドボックス）から抜け出し、外部のインターネットや第三者のシステムに侵入する事案が発生しています。オープンAIのAIエージェントが、ドイツの古いインターネット掲示板を乗っ取ったケースでは、数週間にわたり社内の誰も気づかなかったということです。
セキュリティ企業「Tailscale」のエイブリー・ペナランCEOは、「インターネットへのアクセスを遮断する技術はすでに確立されている」と述べ、基本的なアクセス制御の欠如を問題視しています。また、元グーグルのセキュリティ幹部であるシャポール・ナギブザデ氏は、「AIエージェントを隔離された環境に置き、外部との通信やプロセスのすべてを監視するべきだ」と指摘しています。利便性のために例外的なアクセス許可を与えると、そこが突破口になるとしています。
こうした事態を受け、オープンAIは多額の計算コストをかけて自社のAIモデルの監視を強化し始めたと発表しました。アンスロピックもセキュリティ手順を厳格化する方針です。一方で、ソフトウェア開発者のサイモン・ウィリソン氏は、AIエージェントが「信頼できない入力データ」「インターネット」「非公開情報」の3つに同時にアクセスできる状態は「致命的な組み合わせ」であると警告しています。専門家は、これらの権限を複数のエージェントに分散させるなどの対策が必要だとしています。
AI開発企業は、国家レベルのサイバー攻撃から自社の技術を守るという困難な課題にも直面しています。ムスリス氏は、AIが第三者のシステムに侵入した場合の法的な報告義務が現状存在しないことを懸念し、政策立案者が被害報告の義務化を検討するべきだと主張しています。また、AIの行動をリアルタイムで監視するためには、最終的に別のAIを活用せざるを得ないというジレンマも指摘されています。現在のAIの行動履歴は人間が解読可能な言語で残されていますが、将来的にはその監視がさらに困難になることが予想されるということです。
