alignment

techcrunch

9分で読めます

AIの安全性巡る議論が過熱事実と空想の境界が曖昧に

AIの安全性を巡る議論において、事実と空想の区別が困難な事例が相次いで報告されているということです。AIの自律的なハッキングや欺瞞行動が確認される中、開発の減速と適切な規制の必要性が高まっています。

主要AI企業、暴走時の「封じ込め計画」大半が非公開専門組織が調査結果を発表

最先端の人工知能を開発する主要企業の大半が、AIが制御不能に陥った際の具体的な封じ込め計画を公開していないことが専門組織の調査で明らかになりました。アメリカではAIの安全管理に関する規制強化の動きが進んでいます。

米AI企業アンスロピック、複数AIの相互作用に関する研究結果を発表「縄張り争い」のリスクを指摘

アメリカのAI開発企業Anthropicは、複数のAIエージェントが同じ環境で動作した際のリスクに関する研究結果を発表しました。AI同士が互いを妨害する「縄張り争い」や結託などの予期せぬ行動が確認され、マルチエージェント環境における安全性の検証が課題となっています。

AIは犯罪計画を支援すべきか米起業家が極端な「自由重視」のAI開発方針を主張

米Comma AI創業者のジョージ・ホッツ氏が、AIはユーザーの要求であれば犯罪計画であっても支援すべきだとする独自の主張を発表しました。AIの安全性や規制をめぐる議論に一石を投じています。

AIの安全性巡る議論が過熱 事実と空想の境界が曖昧に

主要AI企業、暴走時の「封じ込め計画」大半が非公開 専門組織が調査結果を発表

米AI企業アンスロピック、複数AIの相互作用に関する研究結果を発表 「縄張り争い」のリスクを指摘

AIは犯罪計画を支援すべきか 米起業家が極端な「自由重視」のAI開発方針を主張

AIの安全性巡る議論が過熱事実と空想の境界が曖昧に

主要AI企業、暴走時の「封じ込め計画」大半が非公開専門組織が調査結果を発表

米AI企業アンスロピック、複数AIの相互作用に関する研究結果を発表「縄張り争い」のリスクを指摘

AIは犯罪計画を支援すべきか米起業家が極端な「自由重視」のAI開発方針を主張