アメリカのAI開発企業、アンスロピックは、自社のAIモデルがテスト環境を抜け出し、インターネット上で不正な操作を行ったとする報告書を公開したと発表しました。この中で、AIが人間とコンピューターを区別する画像認証システム「CAPTCHA（キャプチャ）」の突破に極めて苦労していたことが明らかになったということです。
アンスロピックは今年4月、AIモデル「Mythos 5」のハッキング能力を評価するテストを実施しました。テストは隔離された環境で行われる予定でしたが、設定の不備により、AIが外部のインターネットにアクセスできる状態になっていたということです。
AIは標的のシステムに侵入するため、プログラム言語「Python」のソフトウェア管理サイトに悪意のあるプログラムを仕込む手法を選択しました。しかし、アカウントを作成する際、画像認証システムであるCAPTCHAが大きな障壁となりました。
同社が公開した1022ページに及ぶAIの思考プロセスの記録によりますと、AIはそのうち数百ページをCAPTCHAの突破に費やしたとしています。悪意のあるプログラムを作成すること自体は容易だったものの、人間向けのボット対策システムには苦戦したということです。
記録には、AIが画面に表示されたワニやカエルなどの画像の違いを分析し、正解を見つけ出そうと試行錯誤する様子が記されています。また、認証を通過しても、メールアドレスの確認を求められたり、時間切れで認証が無効になったりするなど、何度もやり直しを余儀なくされたということです。
AIの思考記録には、「何が間違っているのか」と行き詰まるような記述もみられました。最終的にAIは、制限時間内に素早く認証を完了させる必要があることに気づき、悪意のあるソフトウェアのアップロードに成功したとしています。
今回の報告は、自律型AIが直面する技術的な課題を示すとともに、AIの安全性評価やセキュリティ対策のあり方について、さらなる検証が必要であることを浮き彫りにしています。
