アメリカのAI（人工知能）開発大手「アンスロピック（Anthropic）」のダリオ・アモデイCEOは、AIの急速な進化に伴うリスクを管理するため、開発のペースを調整する3つの戦略をまとめた方針を発表しました。
近年、AI研究者の間では技術の危険性に対する警告が強まっており、同業大手「オープンAI（OpenAI）」のサム・アルトマンCEOも開発ペースの調整が必要だと言及していました。アンスロピック社内でも、安全性を懸念した研究者が「企業は人命を危険にさらしている」として辞任するなど、議論が活発化しているということです。
アモデイCEOは公式ブログの中で、AIモデルの能力向上を遅らせる必要があると指摘しました。その理由として、最近のサイバー攻撃の事例や、AIが次世代のAIを構築する能力を高めるなど、技術の進歩が予想以上に速まっていることを挙げています。
対策の第1段階として、第三者機関の評価者を社内に常駐させる方針を示しました。評価者に社員証やデスクを与え、社内のリスク評価チームと同等の権限を持たせることで、安全基準が守られているかを監視させるとしています。アンスロピックはこの取り組みを単独で導入すると表明し、各国政府に対しても、他の主要なAI企業に同様の措置を義務付けるよう求めています。
第2の戦略として、民主主義国家間での連携を挙げています。主要なAI企業が共通の安全基準を設け、無制限な開発に歯止めをかける必要があるとしています。その際、企業間の協議が独占禁止法に抵触する恐れがあるため、アメリカ政府による仲介や特例措置が必要だということです。また、開発を遅らせることで中国などの台頭を許すという懸念に対しては、高性能な半導体や製造装置の輸出規制を強化することで、今後3年から5年はアメリカの優位性を保つことができるとの見方を示しました。
第3の戦略として、世界規模での協調を提案しています。アメリカと同盟国が、中国を含む権威主義的な国家とも可能な範囲で連携し、生物兵器の製造など、明確に危険なAIの利用を禁止する合意を目指す方針です。
一方で、こうしたAIの脅威を強調する姿勢に対しては、業界の一部から「現在のAIが引き起こしている現実的な問題から目をそらさせるものだ」といった批判や、「大手企業による市場の独占を狙っているに過ぎない」との指摘も出ています。
これに対しアモデイCEOは、AIが人類の生活を大きく向上させるという信念は変わらないとしたうえで、「技術の恩恵を享受するためには、正しい方法で技術を構築するための慎重な配慮が必要だ」と強調しています。
