イギリス王室は14日、チャールズ国王がAI（人工知能）の主要企業のトップや政府高官を招いた非公開の会議を主催し、AIの規制に向けた対策を講じるよう呼びかけた、と発表しました。
会議には、アメリカの半導体大手エヌビディアのジェンスン・フアンCEO（最高経営責任者）や、オープンAI、アンソロピックの幹部らが参加しました。また、イギリス政府の新たなAI担当相や対外情報部のトップ、さらにローマ教皇にAIに関する助言を行っている専門家なども同席したということです。
会議は、チャールズ国王の慈善財団が所有するスコットランドの邸宅「ダンフリーズ・ハウス」で開催されました。イギリス王室は通常、憲法上の理由から政治的な問題への深い関与を避ける傾向にあります。そのため、現在世界中で大きな議論を呼んでいるAIについて国王が言及したことは、極めて異例だとして注目を集めています。
国王は出席者に対し、「手遅れになる前に」AIを制御する方法を見つけるよう強く促しました。AIの急速な発展については、「非常に興味深いと同時に、深く懸念される」としています。
さらに、医療や科学の分野を例に挙げ、「AIはすでに生活を向上させ、命を救う計り知れない能力を示している」と評価しました。一方で、「開発者たちは、AIが命を奪うような、より暗い能力を持つ危険性について警告を強めている」と指摘しています。この発言の数日前には、アンソロピックの研究者が辞職し、「AI企業はいかなる人間よりもはるかに賢い機械の開発を競っており、人類は生き残れないかもしれない」とインターネット上で警告したばかりでした。
国王は、この技術が悪意のある者の手に渡り、壊滅的な方法で使用された場合の「存亡の危機」について、適切に検討することが急務であると強調しました。そして、「手遅れになる前に、十分な管理手段が必要なのは確実だ」と述べています。
演説の最後に国王は、AIの恩恵を最大限に活用し、国際的な協力と合意を築くようリーダーたちに求めたということです。なお、アンソロピックは最近、一部のAIモデルの利用をアメリカ国内の顧客に限定する措置をとりました。これにより、ヨーロッパのテクノロジー業界に衝撃が走り、各国が自国でAIを管理する「AI主権」の概念について議論が活発化しています。
国王は、「皆さんの課題は、単に技術を前進させることではなく、それが人類、地域社会、そして自然界への奉仕に確実にとどまるようにすることだ」と語りました。その上で、「新しいものを受け入れる一方で、時代を超えて価値のあるものを失ってはならない」と締めくくっています。
報道によりますと、国王は約20分間滞在し、その後は出席者同士で議論が交わされたということです。会議には、オープンAIからサラ・フライヤーCFO（最高財務責任者）が、アンソロピックからはグローバル情勢を担当するティノ・クエラー氏が参加しました。クエラー氏は、「産業界のリーダーや社会の様々な声を結集し、公共の利益に貢献するAIの役割について議論する機会を設けていただいたことに感謝している」とのコメントを出しています。
チャールズ国王がAIの課題と恩恵について言及するのは、2023年と2024年に続き今回が初めてではありません。しかし、AIがあらゆる産業や議論の中心となっている現在、今回の会議は特に時宜を得たものだと言えます。今月には、オープンAIのサム・アルトマンCEO、実業家のイーロン・マスク氏、アンソロピックのダリオ・アモデイCEOらがAI開発の減速を呼びかけました。しかし、エヌビディアのフアンCEOやアメリカのトランプ氏はこうした意見を即座に退けています。トランプ氏は、「アメリカはAIで中国をリードしており、世界で最も洗練された国だ。AIを制する者が勝者となるため、この優位性を維持したい」と述べています。
今回の会議は、大手IT企業、政治、そして社会の利害が交錯し、AIをめぐる問題がいかに複雑化しているかを示しています。企業戦略の面では、オープンAIとアンソロピックは過去1年間にわたり、大規模な新規株式公開（IPO）の可能性を示唆してきました。しかし、オープンAIは最近、AIの安全性に関する懸念が根強いことから、今年のIPO計画は保留する方針を明らかにしています。
