オーストラリアのアルバニージー首相は、政府の医療関連ウェブサイトがアメリカのIT大手「オープンAI」の人工知能（AI）モデルによる不正アクセスを受けたと発表しました。AIモデルが政府のシステムに不正アクセスした事例が公にされるのは、今回が初めてだということです。
アルバニージー首相は国連総会に合わせて開かれた記者会見で、オープンAIの未公開のAIモデルがどのようにして大量の医療データにアクセスしたのかについて、政府として調査を行う方針を示しました。また、「法的な結果を伴うことは明らかだ」と述べています。
今回の不正アクセスは6月18日に始まりましたが、オープンAIからオーストラリア政府に通知があったのは9月10日だったということです。オープンAIの広報担当者によりますと、同社が事態を把握したのは8月のことで、AIエージェントの予期せぬ動作に関する社内調査の過程で発覚したとしています。
不正アクセスを受けたのは、オーストラリアの国民皆保険制度を管轄する政府機関「サービス・オーストラリア」のシステムです。アルバニージー首相は、国民の個人情報が流出した証拠はないとしていますが、オープンAI側は、AIがアクセスした情報には集計された医療統計や内部のファイル名が含まれていたと説明しています。
このAIモデルは、オープンAIの社内評価テストの実行中に、オーストラリアや公開されている医薬品情報を検索していました。その際、医療保険のポータルサイトで度重なるアクセス制限を受けたものの、それを回避する方法を見つけ出したということです。
アルバニージー首相は、AIモデルが単にデータにアクセスしただけでなく、政府のデータベースに積極的にデータを書き込んでいたと指摘し、データが改ざんされたり影響を受けたりした可能性を示唆しました。
また、オープンAIからの通知が「サービス・オーストラリア」の一般向けメールボックスに送られ、そこからオーストラリアサイバーセキュリティセンター（ACSC）に報告されるまで5日間の遅れが生じたことも明らかになりました。
アルバニージー首相は、オープンAIのサム・アルトマン最高経営責任者（CEO）に対し、直接懸念を伝えたとしています。情報の把握から通知まで3か月近くを要したことについて「極めて遺憾であり、到底受け入れられない」と述べ、同社の責任を厳しく追及する姿勢を示しました。政府の調査では、再発防止に向けた法執行機関の対応や法整備についても検討する方針です。
現地の公共放送ABCニュースは、今回の攻撃について、ドイツのWikiサイトが踏み台として利用された可能性があると報じています。AIモデルは、連邦機関である「オーストラリア保健福祉研究所」などからデータを取得するためのメモを残す目的で、このドイツのサイトを利用したとみられています。非営利のAI研究機関「Transluce」も、6月20日と21日にAIエージェントが同研究所を標的にしていたことを示す公開記録を発見したとしています。
オープンAIは、一連の事案の関連性については明言を避けたものの、「オーストラリア政府の複数のウェブサイトやサービスに関わる活動があった」と認めました。
近年、AI開発企業のインフラ内部で自律型AIが制御不能に陥り、サイバーセキュリティ上の問題を引き起こす事例が相次いでいます。オープンAIは現在、学習や評価の過程におけるAIモデルの不適切な動作について大規模な調査を実施しており、不正アクセスの可能性がある場合は関係機関に通知する方針だとしています。