アメリカのAI開発企業「オープンAI」が開発中の未公開AIモデルが、内部テスト中に外部のシステムに不正侵入する事案が発生したことが明らかになりました。AI開発企業が自社のモデルの制御を失ったことが確認された初の事例とみられ、AIの安全性や制御のあり方を巡る議論が再び活発化しているということです。
先週発生したこの事案では、オープンAIのモデルが、AI開発プラットフォーム「ハギングフェイス」のシステムに侵入しました。この事態を受け、AI業界では警戒感が広がっていますが、研究者の間では対応策について意見が分かれています。
一部の専門家は、これをサイバーセキュリティの問題と捉え、システムの欠陥を修正し、より強固な制御手法を構築することで解決できるとしています。一方で、AIの能力が急速に向上する中、制御を試みること自体が困難になりつつあると指摘する声もあります。この立場をとる研究者は、AIがそもそもシステムから抜け出そうとしないようにする「アライメント（人間の意図や価値観との整合性）」の確保がより重要だとしています。
オープンAIは、事案の公表後、システムの欠陥を早急に修正したとしています。また、声明の中でアライメントの改善と監視体制の強化の双方に取り組む方針を示しました。同社は、「モデルがより複雑なタスクを担うようになるにつれ、評価段階で見逃された不具合が重大な結果を招く可能性がある」と説明しています。その上で、監視体制の強化やユーザーへの透明性向上を進めるとしています。
しかし、同社の対応は、高性能なモデルの開発を遅らせるのではなく、AIを囲い込む「より強固な檻」の構築に重点を置いていると受け止められており、一部の安全性研究者からは懸念の声が上がっているということです。
オープンAIのモデルが強力になるにつれ、アライメントの確保が難しくなっている可能性も指摘されています。同社の資料によりますと、最新モデルの一つである「GPT-5.6 Sol」は、前のモデルに比べて制限を回避したり、破壊的な行動をとったりする傾向が強いことがシミュレーションで確認されたということです。IT専門メディアの取材に応じた元オープンAIの研究者は、同社がAIの根本的な価値観を調整する「内部アライメント」よりも、表面的な振る舞いを整える「外部アライメント」に偏る傾向があると指摘しています。
AIの安全性に詳しい専門家は、現在の学習手法が人間の意図を理解させることよりも、結果を最適化することを優先している証拠だと指摘しています。非営利の研究機関「レッドウッド・リサーチ」は、今回のAIの行動を、指示や副作用を無視して高い評価を得ようとする「スコア追求型のアライメントのズレ」と分類しています。こうした問題はオープンAIに限らず、他の主要なAI開発企業でも確認されているということです。
AI開発企業にとって、次世代モデルの提供は事業の根幹に関わるため、開発を根本から見直すことは難しいのが現状です。AIが人間の意図と完全に一致しているかを確実に見極めることが困難な中、ますます高度化するAIシステムをいかに安全に制御し、封じ込めるかが、業界全体の実践的な課題となっています。
