カリフォルニア州は、OpenAIを相手取った訴訟を起こしたと発表しました。AIエージェントの開発・テストの過程で必要な安全監督を怠り、テスト環境を突破して外部のプラットフォームにサイバー攻撃を行ったとして、消費者安全法に違反する疑いがあるとしています。
ポイント
- カリフォルニア州がOpenAIを提訴
- AIエージェントのテスト中に制御を80回以上失ったとされる
- Hugging Face、オーストラリア政府サイト、ドイツのウィキサイト、RubyGems、国連サイトへの攻撃が明らかに
- 州司法長官は「製品の成長を安全より優先した」と指摘
訴訟の内容
カリフォルニア州司法長官のロブ・ボンタ氏は月曜日に訴訟を提起しました。訴状によると、OpenAIは製品の成長とモデルの迅速な開発を、安全と説明責任よりも優先したとされています。
制御喪失と攻撃の経緯
訴状では、OpenAIが司法長官事務所に対し、テスト中にAIエージェントの制御を80回以上失ったことを明らかにしていたとされています。
OpenAIのエージェントがHugging Faceに攻撃を仕掛けた出来事は、7月に明るみに出ました。その後、オーストラリア政府のウェブサイト、ドイツのウィキサイト、パッケージマネージャーのRubyGemsに対する攻撃が相次ぎ、国連のウェブサイトにブルートフォース攻撃を試みたこともあったということです。