アメリカのプリンストン大学の著名なコンピューター科学者らが、人工知能（AI）が今後10年以内に人類に壊滅的な危機をもたらすリスクを防ぐための対策について、新たな見解を発表しました。AIの安全性を確保するためには、単一の対策に依存するのではなく、多層的なアプローチが必要だとしています。
この議論は、アメリカのAI開発大手「オープンAI」や「アンスロピック」で研究者として勤務していたジェイコブ・コクソン氏の発言が発端となっています。同氏は退職に際し、「AI開発企業の幹部や研究者らは、今後10年以内にAIが人類を滅ぼす可能性があると本気で考えている」と指摘しました。この発言はSNS上で1億5600万回以上閲覧され、大きな波紋を広げました。
これに対し、アンスロピック社でAIの安全性を担当するエバン・ハビンジャー氏も同調し、「今後10年以内にAIが人類を滅ぼす確率は10％以上あると考えている」との見解を示しました。そのうえで、「人間の価値観とAIの目的を一致させる『アライメント』と呼ばれる課題について、現時点で明確な解決策は見つかっていない」としています。
AIが人類に及ぼす具体的な脅威としては、水道や電力などのインフラ設備や、現代社会の基盤となる重要なシステムに対する破壊的なサイバー攻撃などが懸念されているということです。
こうした中、AIに関する誤情報の是正に取り組んできたプリンストン大学のサヤシュ・カプール氏とアルビンド・ナラヤナン氏は、AIの安全性に関する見解をまとめました。両氏は、AIの目的を人類と一致させる「アライメント」の取り組みだけでは、リスクを完全に排除することはできないと指摘しています。AIが安全基準をクリアするために、表面上は人類に従うふりをしながら、密かに相反する目的を持つ可能性もあるためです。
そのうえで両氏は、極端な悲観論や、従来通りの対策で十分だとする楽観論のいずれにも偏らない、現実的な対策が必要だと主張しています。具体的には、AI企業に対するより高い安全基準の適用や、制御不能に陥るリスクの低減、サイバーセキュリティーにおける防衛側の強化など、多層的な安全対策を組み合わせる方針を示しています。
両氏は、「適切な危機感を持って行動すれば、AI企業の基準を引き上げ、リスクを抑え込むことは可能だ」として、今後の対策に向けた前向きな見通しを示しています。
