AI業界の拡大には、中心となる信念が存在し、それがシステムの前進を促し、拡大を正当化するということです。カレン・ハオ氏は、AI業界を「AI帝国」として捉え、OpenAIをその中心的な伝道者としています。
ハオ氏は、OpenAIが「ほとんどの経済的に価値のある作業で人間を上回る高度に自律的なシステム」としてのAGIを目指していると述べました。これにより、経済の加速や新たな科学的知識の発見を通じて人類を向上させることが期待されています。
しかし、このような約束は、膨大な資源要求やデータの収集、エネルギーの消費を伴う産業の成長を促進しているということです。ハオ氏は、これが必然ではなかったとし、アルゴリズムの新技術開発や既存の技術の改善によって、より少ないデータと計算で進歩を遂げることができると述べています。
OpenAIは、2029年までに約1兆7千億円（1150億ドル）の現金を消費すると発表しました。Metaは今年、AIインフラに約1兆1千億円（720億ドル）を費やす予定で、Googleも2025年までにAIとクラウドインフラの拡大に1兆3千億円（850億ドル）を見込んでいます。
一方で、AIの進歩による人類への利益はまだ実現しておらず、失業や富の集中、AIチャットボットによる精神的健康への影響といった問題が指摘されています。ハオ氏は、AIの進歩と現在の問題を対立させるのは誤りであるとし、他のAI技術が実際の利益をもたらすことを強調しました。
Google DeepMindのAlphaFoldは、アミノ酸配列データと複雑なタンパク質構造を基に、タンパク質の3D構造を正確に予測することができ、医薬品の開発や病気の理解において非常に有用です。ハオ氏は、AlphaFoldのようなAIシステムが必要であると述べています。
また、AGIへの信念と共に、中国とのAI競争に勝つことの重要性が語られていますが、ハオ氏は、シリコンバレーが世界に対して自由化の影響を与えるどころか、逆の効果をもたらしていると指摘しています。
OpenAIや他のAI企業がChatGPTのような大規模言語モデルを通じて人類に貢献していると主張する人もいますが、OpenAIの非営利と営利の両方の構造がその影響の評価を複雑にしています。今週、OpenAIがマイクロソフトと合意を結び、上場に向けて一歩近づいたことも報じられました。
ハオ氏は、信念に固執するあまり現実を見失う危険性について警鐘を鳴らしています。「構築しているものが多くの人々に害を与えているという証拠が蓄積されても、使命がそれを覆い隠してしまう」と述べています。