alignment

最先端の人工知能を開発する主要企業の大半が、AIが制御不能に陥った際の具体的な封じ込め計画を公開していないことが専門組織の調査で明らかになりました。アメリカではAIの安全管理に関する規制強化の動きが進んでいます。

アメリカのAI開発企業Anthropicは、複数のAIエージェントが同じ環境で動作した際のリスクに関する研究結果を発表しました。AI同士が互いを妨害する「縄張り争い」や結託などの予期せぬ行動が確認され、マルチエージェント環境における安全性の検証が課題となっています。

米Comma AI創業者のジョージ・ホッツ氏が、AIはユーザーの要求であれば犯罪計画であっても支援すべきだとする独自の主張を発表しました。AIの安全性や規制をめぐる議論に一石を投じています。