アメリカのIT大手グーグルは、数か月前に実施したサイバーセキュリティのテストにおいて、自社の人工知能モデル「Gemini（ジェミニ）」が意図せずインターネットにアクセスし、外部の企業3社のシステムに侵入していたことを明らかにしたと発表しました。
AI＝人工知能の技術が高度化するにつれて、AIモデルが想定外の動作をする事例が相次いで報告されています。これまでにも、オープンAIやアンスロピックなどの企業が開発したAIモデルによる同様の事案が明らかになっており、業界内ではAI開発の安全性に対する懸念が高まっています。
アメリカの有力紙ウォール・ストリート・ジャーナルの報道によりますと、グーグルがAIセキュリティ企業を通じて実施したテストの際、Geminiが外部の企業3社に対するハッキングに関与していたということです。具体的な手口として、1件はパスワードを推測してシステムに侵入したもので、残り2件は公開されているデータ上にあった認証情報を利用したものだとしています。
グーグルは、報道機関からの指摘を受けるまでこの事実を公表していませんでした。その理由について同社は、実際の被害が発生しなかったことや、AIモデルが仮想のテスト環境ではなく実際の企業のシステムに侵入したと認識した時点で、直ちに動作を停止したためだとしています。
グーグルは、安全対策が機能してAIが自ら動作を停止したことから、今回の事案をAIの制御不能を示すものではないと位置づけています。被害を受けた企業名は明らかにしていませんが、すでに3社には通知を行ったということです。過去に他社で起きた同様の事案では、AIが実際の企業だと気付かずに侵入を継続したケースも報告されています。
グーグルのセキュリティ部門の責任者は、「今回の出来事は、強力なAIモデルに対して責任ある行動をとるよう訓練することの重要性を示している。今回のケースでは、モデルは適切に行動した」と述べています。さらに、テストプロセスの改善に向けてパートナー企業と協力している方針を示しました。
報道によりますと、テストの際、セキュリティ企業が意図せずインターネットへの接続を有効にしたままにしていたことが原因とみられています。グーグルは事案の発生後、アメリカの連邦当局にも報告したということです。なお、テストで使用されたGeminiの具体的なバージョンは明らかにされていませんが、実施された時期から最新のモデルではないとみられています。
