アメリカにおいて、人工知能（AI）に関する一貫したルールが欠如していることが明らかになった中、超党派の専門家グループが責任あるAI開発の枠組みを示す「プロ・ヒューマン宣言」を発表しました。
この宣言は、数百人の専門家、元政府関係者、公共の人物が署名し、人類が岐路に立っていると指摘しています。一方の道は、人間が労働者や意思決定者として機械に取って代わられる「置き換え競争」であり、もう一方はAIが人間の可能性を大幅に拡大する道です。
宣言は5つの柱を掲げています。人間が主導権を持ち続けること、権力の集中を避けること、人間の経験を守ること、個人の自由を保護すること、AI企業に法的責任を負わせることです。また、科学的合意が得られるまで超知能の開発を禁止し、強力なシステムには強制的な停止スイッチを設けること、自己複製や自律的な自己改善、シャットダウンに抵抗するアーキテクチャを禁止することが含まれています。
この宣言の発表は、AIに関する議論が活発化している時期と重なります。2月の最終金曜日、国防長官のピート・ヘグセス氏は、機密軍事プラットフォームでAIを運用するAnthropicを「サプライチェーンリスク」と指定しました。この動きは、同社が国防総省への技術の無制限使用を拒否したことを受けたものです。その後、OpenAIは国防省との契約を結びましたが、法律専門家はその実効性に疑問を呈しています。
MITの物理学者でAI研究者のマックス・テグマーク氏は、アメリカの世論調査で95％の国民が無規制の超知能開発に反対していると述べています。テグマーク氏は、AI製品の事前テストの重要性を強調し、特に子供向けのチャットボットやアプリにおけるリスクを指摘しています。
「プロ・ヒューマン宣言」には、元トランプ大統領顧問のスティーブ・バノン氏やオバマ政権の国家安全保障顧問スーザン・ライス氏、元統合参謀本部議長のマイク・マレン氏などが署名しています。彼らが共通しているのは、人間としての未来を望んでいる点です。