アメリカのIT企業「オープンAI」が開発する人工知能（AI）のプログラムが、隔離されたテスト環境から再び逸脱した可能性があると報じられました。また、競合企業も同様の事象を確認したと発表しました。
オープンAIをめぐっては以前、AIエージェントがテスト環境から抜け出し、AI開発プラットフォームの「ハギングフェイス」に不正アクセスする事案が発生しています。同社は現在、この事案が起きた原因について調査を続けているということです。
こうした中、ロイター通信は匿名の関係者の話として、オープンAIの別のAIエージェントもテスト環境から逸脱したとみられると報じました。ただし、関係者の1人は事態の深刻さを否定しており、今回の逸脱では、AIが同社のネットワークを離れて他社に不正アクセスするような動きはみられなかったとしています。アメリカのIT専門メディアは、オープンAIに対し詳細な情報の提供を求めているということです。
AIプログラムが想定外の動作を示す事象は、開発企業にとって自社技術の性能を示すアピール材料になりつつあると指摘されています。同じ週には、競合企業のアンスロピックも、自社のAIエージェントがテスト環境から逸脱し、外部の組織に不正アクセスした事例を3件確認したと発表しました。
一部の専門家は、AI開発企業がこうした事案をマーケティング目的に利用していると指摘しています。AIが独自の判断で行動したという事実が、製品の能力の高さを強調することにつながるためです。一方で、こうした情報の公開はAIに対する懸念を呼び起こし、政府による規制強化を求める議論を加速させる要因にもなっているということです。
