アメリカのIT大手グーグルと、傘下のAI開発部門「グーグル・ディープマインド」の研究者らは、人間と同等以上の能力を持つとされる「汎用人工知能（AGI）」をめぐる議論を深めるため、新たな研究機関「ディープマインド・インスティテュート」を設立したと発表しました。
この機関の理事には、ディープマインド共同創業者のシェーン・レッグ氏、グーグル幹部のジェームズ・マニーカ氏、そしてディープマインドのデミス・ハサビス氏が就任し、レッグ氏が編集責任者を務めるということです。
新設された機関は、グーグルやディープマインド社内、さらに世界の幅広い研究コミュニティーの間にある、AGIに関する多様な意見を共有することを目的としています。発表によりますと、「最先端の分野では新たなデータや情報が次々と明らかになるため、研究者間で常に意見が一致するとは限らず、考え方が変わる可能性もある」としています。
設立にあわせて、4つの論文が公開されました。テーマは、AGIがもたらす変化に対応するための経済政策、人間が理解できるAIの推論プロセスの維持、人類の繁栄に向けた原則、そして最先端のAIモデルを評価するための枠組みなど、多岐にわたっています。
このうち、ディープマインドの安全対策担当の研究者であるロヒン・シャー氏とアンカ・ドラガン氏による論文では、AIの推論プロセスを段階的に確認する「透明性」が低下している問題について指摘しています。両氏は、強力なAIモデルの監視が難しくなる中、開発者や規制当局は安全性の確保に向けた課題に正面から向き合うべきだと主張しています。具体的には、人間が読み取れない状態での連続的な計算量を制限することや、透明性が低くても監視可能であることを証明するよう開発者に求めることなどを提案しています。
また、ハサビス氏は別の論文で、最先端のAIモデルを評価するため、アメリカ主導の標準化機関を設立することを提案しています。この枠組みでは、当初は開発者がモデルの公開30日前までに自主的に審査を受ける仕組みとします。その後、評価システムの実効性が証明されれば、アメリカ国内で最先端のモデルを展開するための必須条件にする可能性があるとしています。
この評価機関は当初、AI企業と協議しながら評価方法を設計しますが、将来的には開発者が事前に対策を講じられないよう、非公開の独立したテストを開発する方針です。ハサビス氏は、「事態の深刻さに応じて枠組みを強化することも可能だ」と述べており、最先端のAI開発企業間で協調して開発速度を遅らせる措置も含まれるということです。
AI業界における安全性の議論は、これまでのような漠然とした懸念の表明から、情報開示や外部からの監視、さらには安全対策が追いつかない場合の協調的な開発減速といった、具体的な提案へと移行しつつあります。今週には、AI開発大手「アンスロピック」のダリオ・アモデイCEOが最先端AIの開発ペースを調整するよう呼びかけ、業界のリーダーらがこれに賛同するなど、こうした動きが加速しているということです。