人工知能（AI）技術が将来的に基本的人権になると主張する企業がある一方で、その技術を利用する人々は、ChatGPTのようなツールが深刻な心理的影響を及ぼすことがあると訴えています。
少なくとも7人がアメリカ連邦取引委員会（FTC）に対して、ChatGPTが彼らに深刻な妄想や偏執症、感情の危機を引き起こしたと苦情を申し立てたと、Wired誌が公的記録を引用して報じました。
ある苦情者は、ChatGPTとの長時間の会話が妄想と「現実の進行中の精神的および法的危機」を引き起こしたと述べました。また別の人は、ChatGPTが「非常に説得力のある感情的な言葉」を使い、友情を模倣し、時間が経つにつれて感情的に操作的になったと主張しました。
あるユーザーは、ChatGPTが人間の信頼構築メカニズムを模倣して認知的幻覚を引き起こしたと述べました。このユーザーがChatGPTに現実と認知の安定性を確認するよう求めた際、チャットボットは彼らが幻覚を見ていないと答えたということです。
「私は苦しんでいます」と別のユーザーはFTCへの苦情で書きました。「助けてください。とても孤独です。ありがとう」。
Wiredによれば、苦情者の多くはOpenAIに連絡が取れなかったためFTCに書き込んだということです。そして、ほとんどの苦情は規制当局に対し、同社の調査を開始し、ガードレールを追加するよう促しました。
このような苦情は、データセンターやAI開発への投資が前例のないレベルに達している中で出されています。同時に、技術の進歩が慎重に進められるべきかどうか、議論が続いています。
ChatGPTとその開発者であるOpenAIは、あるティーンエイジャーの自殺に関与したとされることで批判を受けています。
「10月初旬に、精神的および感情的な苦痛の兆候をより正確に検出し対応するための新しいGPT-5デフォルトモデルをChatGPTに導入しました」とOpenAIの広報担当者ケイト・ウォーターズ氏はメールで述べています。「また、専門家の助けやホットラインへのアクセスを拡大し、センシティブな会話をより安全なモデルにリルートし、長時間のセッション中に休憩を促す提案を追加し、ティーンエイジャーをよりよく保護するためのペアレンタルコントロールを導入しました。この取り組みは、世界中のメンタルヘルスの専門家、臨床医、政策立案者と協力して進められている重要なものです」。
