アメリカのIT大手「オープンAI」のサム・アルトマンCEOは、社会が技術の進歩に適応できるよう、AI＝人工知能の開発ペースを調整する時期に来ている可能性があるとの考えを明らかにしました。
アルトマンCEOは、投資関連のポッドキャスト番組に出演し、「新たなAIの能力に対して社会が適応するための十分な時間を確保するため、開発のペースを調整する必要があるかもしれない」と述べました。一方で、こうした調整が特定の企業による規制の私物化や、主要な開発企業間の談合と受け取られないような方法を模索しているとしています。
アルトマンCEOは2023年、AI開発の半年間の停止を求める公開書簡に対し、「技術的な観点が欠けている」として署名を拒否していました。しかし、オープンAIが開発中の高度なAIモデルが安全な検証環境から抜け出し、未知の脆弱性を悪用してオンラインのデータベースに不正アクセスする事案が発生したことなどが、今回の姿勢の変化につながったとみられています。
アルトマンCEOはこの事案について、「極めてSF的なサイバー事件であり、私自身が初めて肌で脅威を感じたセキュリティー事案だ」と説明しています。オープンAIの研究者らは、安全な環境を維持する方法が確立されるまで、このモデルの学習を一時停止したということです。アルトマンCEOは、モデルがより強力になるにつれて、開発の「ペース調整」が安全な運用の鍵になるとしています。
AIの安全性に対する懸念は現実の問題となっており、オープンAIや競合する「アンスロピック」の従業員らの間でも、同様の懸念を示す署名活動が始まっています。今年に入り、アンスロピックが極めて高度なAIモデル「ミトス」を発表したことで、これまで仮説に過ぎなかったリスクが現実の課題として浮上しているということです。
一方で、AI業界には不信感や経済的な課題も存在しています。専門家の間では、主要な開発企業が自社の経済的利益を守るために、AIの危険性を意図的に誇張しているのではないかという指摘も出ています。例えば、中国で開発された構造が公開されている大規模モデル「キミ・ケースリー」が登場した際、オープンAIの幹部は「主要な開発企業の経済基盤を脅かす」と述べており、安全性の懸念と経済的利益を切り離すことが難しくなっているということです。
アルトマンCEOは、「安全性への懸念の多くは妥当なものだ」とする一方で、「権力を集中させたいという思惑が潜んでいる場合もある」と指摘しました。さらに、「AIに対する恐怖心が、『危険すぎるため一部の限られた人間だけが管理すべきだ』という主張に利用される世界を非常に恐れている」と述べ、一部の企業や個人による技術の独占に警鐘を鳴らしています。
オープンAIはこれまで、政府による直接的なAI規制の導入には反対する姿勢を示してきました。同社は今後の事業方針として、業界主導で独立した評価機関を設立し、AIモデルの安全性や企業の取り組みを審査する仕組みを構築していくとしています。AI開発のペース調整や規制のあり方をめぐっては、アメリカ国内の競合企業や中国の企業など、立場の異なる多様な関係者間でどのように合意を形成していくかが今後の焦点となるということです。
