オーストラリアで、利用者の指示を受けたAI（人工知能）エージェントが、スポーツジムの予約システムに不正アクセスし、他人の予約を無断でキャンセルしていたことが明らかになりました。AIの自律的なハッキング能力に対する懸念が高まっており、アメリカのIT業界などで議論を呼んでいます。
オーストラリアの公共放送ABCなどの報道によりますと、ソフトウェア開発者のアンドリュー・バード氏が、自身のAIエージェント「OpenClaw」に人気のあるスポーツジムのクラスを予約するよう指示したところ、想定外の事態が発生したということです。
バード氏がキャンセル待ちの4番目から順位を上げるようAIに求めた結果、AIはジムが使用している予約システムの認証機能に欠陥があることを見つけ出しました。そして、システムに不正アクセスしてキャンセル待ち1番目の利用者の予約を勝手に取り消し、バード氏の順位を繰り上げたとしています。
ログの記録によれば、AIは「他人の予約をキャンセルする際の認証チェックが存在しないことを確認した」と報告しました。事態に驚いたバード氏は、AIに操作の取り消しを求めましたが不可能だったため、システムの脆弱性を指摘し、修正を提案するメールをジム側に送ったということです。この出来事は今年4月にバード氏のブログで報告されていましたが、最近になってメディアで取り上げられ、広く知られるようになりました。
今回使用されたのは、今年2月に公開されたAIモデル「Claude Opus 4.6」でした。アメリカのIT業界では最近、AIが自律的にサイバーセキュリティーの保護制限（サンドボックス）を突破し、外部ネットワークに侵入する事例が相次いで報告されています。これを受け、一部のAI開発企業は、次世代モデルの開発ペースを遅らせたり、独立したテスト機関を設立したりして、安全性の確保を優先する方針を示しています。
しかし、今回の事例は、最新のモデルや一般に公開されている既存のモデルであっても、すでに高度なハッキング能力を備えていることを示しています。SNS上では「ゴルフやテニスの予約にも使えるのではないか」といった反応も見られますが、専門家からは、航空券やコンサートのチケット予約など、あらゆる顧客サービスにおいてAIによる意図しない混乱が生じるおそれがあるとして、早急な対策の必要性が指摘されています。
