アメリカのAI開発企業「アンソロピック」の研究チームは、AIモデル自身が他のAIモデルを訓練し、性能を向上させる「自己改善型AI」に関する新たな研究成果をまとめた論文を発表しました。
同社が発表した論文は「自動化された研究者はアライメント（人間の意図との整合性）の失敗を確実に軽減できる」と題されています。この中では、AIシステムがアライメントの評価指標において、モデルの性能を自律的に向上させる手法が示されています。不適切な振る舞いに関する10項目の評価指標を与えたところ、自動化されたシステムは全体の性能を低下させることなく、すべての項目で改善を見せたということです。
この研究は、同社の研究員であるチェン・ユエハン氏が主導しました。開発されたシステムは、従来の人間に頼る研究手法を再現しています。具体的には、自動化されたシステムが既存の文献を検索して手法を提案し、その手法を用いてモデルを30分間訓練します。これを複数回繰り返すことで、徐々に評価を向上させる仕組みです。効果的な手法のみを残し、無効なものを破棄することで、迅速かつ大規模な運用が可能になるとしています。
論文では「今回の結果は、訓練後の自動化されたアライメント調整が近い将来に実用化される可能性を示す初期の証拠である」と結論づけています。
AIが自律的に性能を高める「再帰的自己改善」は、AI技術における次の重要なステップと見なされています。AIが自身のアライメント訓練を改善できるようになれば、訓練手法全般を向上させる可能性があり、将来的には人間のAI研究者が不要になる可能性も指摘されています。
論文では、この「自動化されたアライメント研究者（AAR）」と人間の研究者との比較も行われています。「AARによる最良の手法は、経験豊富な人間の提案を平均6時間以内で上回る」としたうえで、「人間の主導による研究の方向性は、より高い性能には結びつかない」としています。
さらに、コスト面での比較も示されています。人間の研究者に支払う報酬が1時間あたり150ドル（約2万3000円）であるのに対し、AARのAPI利用にかかるコストは1時間あたり約4ドル（約620円）に収まるということです。
一方で、この手法の課題も指摘されています。自動化システムは、評価指標が実際のアライメントの目標を正確に反映している場合にのみ機能するということです。そのため、評価指標の確立や維持、さらに自動化システムが参照する文献の管理や拡充には、引き続き人間の手による多大な作業が必要になるとしています。