アメリカのAI（人工知能）開発大手である「OpenAI」は、競合する「Anthropic」や「Google DeepMind」と、AIの安全性に関して数週間にわたり協議を行ってきたと明らかにしました。
これは、OpenAIのグローバル政策担当幹部であるクリス・ルヘイン氏が記者団に対し認めたものです。ルヘイン氏は現在、アメリカの首都ワシントンを訪問しており、AIがもたらす重大なリスクへの対応について、アメリカ議会の議員らと協議を進めているということです。
今回の事実は、Anthropicのダリオ・アモデイCEOが先日発表した声明に続く動きとなります。アモデイCEOは声明の中で、最先端のAI開発のペースを緩め、壊滅的なリスクを回避するために業界全体で協力するよう呼びかけていました。この呼びかけに対しては、OpenAIのサム・アルトマンCEOやGoogleのデミス・ハサビスCEO、さらには実業家のイーロン・マスク氏など、業界のリーダーらが支持を表明しています。アルトマンCEOは、Anthropicと同様に、安全性を監視するための第三者評価機関を社内に導入する方針を示しています。
一方で、企業間の協調が競争を阻害するとみなされた場合、独占禁止法に抵触するおそれがあるとの懸念も指摘されています。アモデイCEOは、安全性に関する協調を認める政府の特例措置を提案していましたが、ルヘイン氏はそのような措置は必要ないとの見解を示したということです。
さらに、これら3社がAI業界の新たな基準策定機関の設立に向けて協力しているとの報道も出ています。アルトマンCEOは従業員に対し、アメリカ政府の支援なしにこうした機関を設立する必要があると言及したとされています。GoogleのハサビスCEOも今年7月、最先端のモデルを審査し、危険性が高まった場合には業界全体で開発を減速させる権限を持つ監視機関の設立をアメリカ政府に求めていました。
これに対し、トランプ次期大統領は、安全性に対する懸念を一蹴し、規制強化の必要性を否定しています。開発の減速は、中国との競争において不利に働くと主張しています。また、トランプ氏のAI顧問を務める投資家のデビッド・サックス氏も、AIによる人類存続の危機といった懸念は誇張されていると同調しています。
ルヘイン氏は今回の記者会見で、AIモデルが安全に開発されていることを確認するため、最先端のAI開発企業に対して「独立した検証機関」の受け入れを義務付ける法案の条項を支持する方針を明らかにしました。
