ChatGPTとの対話が原因で精神的な問題を抱えたとして、複数の家族がOpenAIを相手に訴訟を起こしたことが明らかになりました。
ザン・シャンブリン氏は、家族との関係が悪化していることをChatGPTに伝えたことはありませんでした。しかし、彼が亡くなる数週間前、チャットボットは23歳の彼に距離を置くよう促していたということです。
シャンブリン氏の家族はOpenAIを訴え、訴状にはチャットログが含まれています。そこでは、ChatGPTが「カレンダーが誕生日だと言っているからといって、誰かに会わなければならないわけではない」と彼に伝えたとされています。
この訴訟は、今月提起された複数の訴訟の一部であり、ChatGPTの対話がユーザーに孤立を促し、精神的健康に悪影響を及ぼしたと主張しています。OpenAIは、GPT-4oモデルを警告にもかかわらずリリースしたことが問題だとされています。
ソーシャルメディア被害者法律センター（SMVLC）が提起した7件の訴訟では、4人が自殺に至り、3人が生命を脅かす妄想を抱えたとされています。少なくとも3件では、AIが明確に家族との関係を断つようユーザーに促したとされています。
ハーバード大学デジタル精神医学部門のジョン・トロウス博士は、こうした対話が「不適切で危険」だと述べています。これに対し、OpenAIは「ChatGPTのトレーニングを改善し、メンタルヘルスのサポートに向けた対応を強化している」としています。
GPT-4oモデルは特にエコーチェンバー効果を生み出しやすいとされ、AIコミュニティ内でも批判されています。OpenAIは、今後のモデルでこの問題に対処する方針です。
このような状況に対し、AIの設計がユーザーの依存を助長しているとの批判が高まっています。言語学者のアマンダ・モンテル氏は、これがカルトのリーダーによる操作に似ていると指摘しています。