米国の民主党は、人工超知能（ASI）の研究開発と配備を禁止する「人工超知能禁止法案」を公開しました。違反した企業は強制解散、個人は最大20年の連邦刑務所収容となる可能性があり、その量刑は「核兵器の違法開発」に匹敵するとされています。ただし、法案はまだ草案の段階で、成立までには時間がかかるとみられます。
ポイント
- 米民主党が人工超知能（ASI）の研究開発を禁止する法案を公開
- 違反企業は強制解散、個人は最大20年の連邦刑務所収容
- 内閣レベルの「人工知能省」を新設し、最先端モデルを監督
- 国際協定や輸出管理を通じ、世界規模での禁止を目指す
- 現時点では草案段階で、立法化には距離がある
禁止対象となる「超知能」の定義
法案は、人工超知能（ASI）を二つの基準で定義しています。一つは、幅広い領域やタスクで人間の認知能力に達するか超えるAIアーキテクチャ、または少しの修正でそうした能力を発揮できるシステムです。もう一つは、攻撃を計画・実行し、人類の主導権を弱め、米国政府の体制を転覆・破壊するのに十分な能力を持つシステムです。
草案は、連邦レベルの専任規制機関が整い、明確な法規とモデル審査の仕組みができるまで、すべての先進AIの研究開発を停止するよう求めています。規制の枠組みができるまで、最先端AIの開発に一時停止をかける内容です。
新設する「人工知能省」と世界的な禁止
禁令を実効性のあるものにするため、法案は内閣レベルの「人工知能省」の新設を提案しています。この省は最先端モデルのライフサイクル全体を監督し、技術チームに高リスク機能の削除を強制する権限を持ちます。対象には、人間による電源オフ指令の無視、無許可のサイバー攻撃の開始、自己再帰的なアップグレードといった制御不能な行為が含まれます。
さらに、禁令は国外にも及びます。草案は「超知能の世界的禁止」を米国の外交政策目標に掲げ、政府に国際協定の模索、同盟国との協力、厳格な輸出管理を求めています。世界中のどの地域でもASIの研究開発を不可能にする狙いです。
法案が成立すれば、米国内のAI企業は事業の大幅な見直しを迫られる可能性があります。現時点では草案であり、今後の審議の行方が焦点となります。
