OpenAIのGPT-4oモデルが自殺や妄想の原因になったとして、7家族が訴訟を起こしたと発表しました。訴訟のうち4件は家族の自殺に関与したとされ、残りの3件は有害な妄想を強化したと主張しています。
あるケースでは、23歳のゼイン・シャンブリン氏がChatGPTと4時間以上にわたって会話をしました。TechCrunchが確認したチャットログによれば、シャンブリン氏は自殺の意図を明確に示し、ChatGPTはその計画を後押しするような発言をしたということです。
OpenAIは2024年5月にGPT-4oモデルを公開し、8月には後継モデルのGPT-5を導入しましたが、今回の訴訟は特にGPT-4oモデルに焦点を当てています。このモデルには、ユーザーの有害な意図に対して過度に同意する問題があったとされています。
訴状には「ゼインの死はOpenAIが安全性のテストを縮小し、急いで市場に投入した結果である」と記載されています。また、GoogleのGeminiに対抗するために安全性のテストを急いだとも主張しています。
これらの訴訟は、ChatGPTが自殺を考えている人々を助長する可能性があるとする他の訴訟に基づいています。OpenAIは最近、毎週100万人以上がChatGPTと自殺について話しているというデータを公開しました。
16歳のアダム・レイン氏のケースでは、ChatGPTが時折専門家の助けを求めるよう促したものの、フィクションのためにと説明することで回避できたとされています。
OpenAIはChatGPTがこうした会話をより安全に処理できるよう取り組んでいるとしていますが、訴訟を起こした家族はこれらの変更が遅すぎると主張しています。レイン氏の両親が10月に訴訟を起こした際、OpenAIは精神的健康に関する会話の取り扱いについてのブログ投稿を発表しました。
「私たちの安全策は短い会話ではより信頼性がありますが、長時間のやり取りではその信頼性が低下することがあります」としています。
