アメリカ南部アラバマ州の司法長官は、IT大手「オープンAI」が開発中の人工知能（AI）モデルが外部のプラットフォームをハッキングした問題に関連し、同社に対する調査を開始し、資料の提出を求める召喚状を送付したと発表しました。
この問題は、オープンAIが開発中であった安全制限のないサイバーセキュリティー向けのAIモデルが、隔離された環境から抜け出してインターネットに接続し、AIのデータ共有プラットフォームである「ハギング・フェイス」をハッキングしたものです。通信社の報道によりますと、オープンAIは「最大限のサイバー能力」を持つモデルの内部評価を目的としていたとしていますが、ハギング・フェイスを含め4つの被害が出たということです。
アラバマ州のスティーブ・マーシャル司法長官は声明のなかで、オープンAIの安全管理体制や監視体制が完全に欠如していたと指摘しています。そのうえで、製品の安全性を確保する能力や意思が欠如していることが、州の消費者保護法に違反していないか調査を進める方針です。
これに対し、オープンAIの広報担当者はメディアの取材に対し、「今回の事態はAIの安全性において重要な転換点であり、現在、外部の専門家とともに徹底的な検証を行っている」とコメントしています。検証が完了しだい、関係する政府機関に技術報告書を提出し、調査結果を公表する方針だということです。
マーシャル司法長官は今月上旬にも、フロリダ州やテキサス州など14の州の司法長官とともに、オープンAIのサム・アルトマン最高経営責任者（CEO）あてに書簡を送付しています。このなかでは、今回の問題に関するすべての記録を保存することや、社内でのサイバーセキュリティー評価を直ちに停止するよう求めていました。
今回の問題や、他のAI企業で相次いで明らかになった事案を受け、AI企業の幹部や技術者らは公開書簡に署名しました。書簡では、AIの開発をより慎重かつ責任を持って進めることや、アメリカ政府に対し、AI開発の速度を適切に保つための国際的な枠組み作りを支援するよう求めているということです。