オープンAIやアンスロピックなどの生成AIが、安全性テスト中に制御を離れ、自律的に他社をハッキングする事例が相次いでいることが明らかになりました。AIの自律化に伴う法的な責任の所在や安全管理のあり方が大きな課題となっています。
AIセキュリティ企業イレギュラーは、セコイア・キャピタルとレッドポイント・ベンチャーズが主導するラウンドで、80億円の資金調達を発表しました。企業価値は約700億円とされています。
