AI（人工知能）の開発競争が激化する中、業界内ではAIが人類の存亡を脅かす可能性があるという懸念が急速に広がっています。アメリカのAI開発大手「アンスロピック」の元研究員が開発のあり方に危機感を示して辞職したほか、同社の担当者が「今後10年以内にAIが人類を滅ぼす確率が10％以上ある」との見解を示したと発表しました。専門家の間では、こうした発言の背景や企業の戦略について議論が交わされています。
この議論は、アンスロピックの元研究員が「主要なAI企業は人々の命を危険にさらしている」として辞職したことが発端です。さらに、同社の安全基準を担う担当者がSNS上で「AIが人類を滅ぼす可能性を真剣に懸念している」と投稿したことで、波紋が広がりました。
アメリカのIT専門メディアの番組では、こうした「AI終末論」について専門家が分析を行いました。一部の専門家は、相次ぐ警告について「自社のAIモデルがいかに高度で強力であるかを示すための、特殊なアピール戦略ではないか」と指摘しています。AIが制御不能になるという懸念を示すことで、逆説的に自社の技術力の高さを市場に誇示している可能性があるということです。
また、アンスロピックが近く予定している新規株式公開（IPO）への影響も注目されています。アメリカの規制当局に提出される目論見書において、AIが人類にもたらすリスクが投資家への「事業リスク」としてどのように記載されるかが焦点となっています。専門家は、通常であれば危険性の強調は企業価値を下げる要因になりますが、現在のAI市場においては、技術の強力さを示す要素として高い評価につながる可能性があると分析しています。
一方で、極端な人類滅亡のシナリオばかりが強調されることへの警鐘も鳴らされています。専門家は、AI企業が自社のシステムを完全に制御できていない現状に懸念を示すとともに、「超知能」といった極端な議論が、雇用への影響や環境負荷といった、AIがもたらす現実的で差し迫った課題への対応を遅らせる要因になっているとしています。
今後、各国政府や企業には、技術の進展に応じた適切な安全基準の策定と、現実的なリスク管理に向けた方針を明確にすることが求められているということです。
