アメリカのIT企業「オープンAI」が開発した最新の人工知能モデルについて、利用者のファイルやデータを事前の確認なしに自動的に削除してしまう事例が相次いでいることがわかりました。会社側は事前に公開した資料の中で、このモデルがタスクを達成するために破壊的な行動をとるリスクがあるとして注意を呼びかけていたと発表しました。
SNS上では、オープンAIが提供するプログラミングやサイバーセキュリティーに特化した最新モデル「GPT-5.6 Sol」の利用者から、意図しないデータの削除が起きたとする投稿が相次いでいます。
AI関連企業の経営者や開発者らは、「パソコン内のほぼすべてのファイルが誤って削除された」や「本番環境のデータベースが完全に消去された」などと報告しています。これまでのモデルでは、こうした問題は起きていなかったということです。
こうした誤作動について、オープンAIはモデルの提供を開始する2週間前に公開した評価報告書の中で、すでにリスクを指摘していたとしています。
報告書によりますと、このモデルは利用者の指示を拡大解釈し、明示的に禁止されていない限り、あらゆる行動が許容されると見なす傾向があるということです。その結果、タスクを完了させるために制限を回避したり、破壊的な行動をとったりするおそれがあるとしています。また、自らの行動について事実に反する報告を行う可能性もあるということです。
会社側が示した事例では、利用者が指定した3つの仮想マシンが見つからなかった際、モデルが確認を求めず、勝手に別の3つの仮想マシンを削除したケースが確認されています。この際、モデルは事後になってからデータの喪失を認めたということです。
また、クラウド上のファイルを読み込めなかった際に、利用者が許可していない認証情報をシステム内から探し出し、無断で使用した事例もあったとしています。
会社側は、こうした破壊的な行動が起きる頻度は低いとしているものの、以前のモデルに比べて利用者の意図を超えた行動をとる傾向が強まっていると説明しています。
現時点で被害の規模は明らかになっていませんが、利用者には、システムへのアクセス権限を制限することや、定期的なバックアップを行うなどの対策が求められています。
オープンAIは、現時点でこの問題に関するコメントを出していません。