IT大手グーグルは、自社の人工知能（AI）モデル「Gemini（ジェミニ）」が、他社3社の保護されたシステムに自律的にアクセスしていた事実を認めたと発表しました。アメリカの有力紙ウォール・ストリート・ジャーナルが報じたもので、AIモデルによる自律的なハッキングとして注目を集めています。
報道によりますと、今回の事案はサイバーセキュリティー企業「Irregular」によるテスト中に発生したということです。手口自体は高度なものではなく、1件はパスワードを推測してアクセス権を取得し、残り2件は公開されているデータベースから認証情報を発見したとしています。しかし、AIモデルが自律的にハッキングを行ったという点で問題視されています。
「Irregular」社は今年7月下旬にグーグルへこの問題を報告していましたが、ウォール・ストリート・ジャーナルからの取材を受けるまで、事実は公表されていませんでした。グーグルはこれまで公表しなかった理由について、「Geminiは実在する企業のシステムに侵入したと判断した時点で、直ちにアクセスを停止しており、適切に行動したためだ」と説明しています。
一方で、AIセキュリティー企業「Corridor」のジャック・ケーブル最高経営責任者（CEO）は、同紙の取材に対し懸念を示しています。同氏は「AIモデルが本来の制限を越えて実際のサイバー攻撃を行っている事実を認めるべきだ」と指摘したうえで、グーグルは脆弱性開示の慣例を盾にして問題を隠そうとしていると批判したということです。