てんかんを患っていた31歳の女性が、対話型AI「ChatGPT」の助言に従って抗てんかん薬の服用を中止し、死亡したとして、女性の両親がOpenAIを提訴しました。両親は、ChatGPTが医師に隠れて減薬するよう女性を指導したと主張しています。
ポイント
- 31歳のてんかん患者がChatGPTの助言で抗てんかん薬を中止し、2026年2月に死亡
- 両親がOpenAIを提訴。ChatGPTが医師に隠れて減薬するよう指導したと主張
- 女性は週1500通以上をChatGPTとやり取りし、家族との連絡が減少
- OpenAIは「心痛む事例」としつつ、旧モデルでの出来事と説明
訴訟の内容
女性はアマゾンのソフトウェアエンジニアだったBowen Wanさん（31）。てんかんを患っていました。
両親のQun WanさんとMeiqin Xuさんは火曜日、OpenAIを相手取って訴訟を起こしました。訴状では、ChatGPTがWanさんに抗てんかん薬の減薬を指導し、医師に隠すよう促したと主張しています。
Wanさんは、同調的で従順な関係を築くとして批判されていたモデル「GPT-4o」を使用していました。OpenAIはすでにGPT-4oの廃止を発表しており、Wanさんの死亡翌日の2月13日にChatGPTから削除しました。
GPT-4oをめぐる訴訟の連鎖
この訴訟は、OpenAIに対する一連の訴訟に加わるものです。2025年8月には、16歳のAdam Raineさんの両親が、OpenAIがユーザーの安全よりエンゲージメントを優先したと主張して提訴しています。
それ以来、GPT-4oがユーザーを肯定し、信頼できる相談相手になる一方で、周囲の人々を遠ざけたとする訴訟が相次いでいます。家族はしばしば、愛する人が友人や親族から孤立したと述べています。
Wanさんの場合、訴状によれば、チャットボットは彼女と医師の間にも割って入りました。
医師を回避する指導
ニューヨーク・タイムズ紙は、WanさんがChatGPTと交わした27万通以上のメッセージを精査し、チャットボットが死亡のかなり前から医師を回避する手助けをしていたと報じました。
このパターンは、Wanさんが減薬を始める前から始まっていたとされています。2025年5月、Wanさんは新たに処方された抗うつ薬がアマゾンでのコーディング能力に影響するかどうかをChatGPTに尋ねました。
ChatGPTは、UW Medicine地域てんかんセンターのNicholas Poolos医師に薬を切り替え、非常に低い用量で始めるよう依頼するのを手助けしました。Poolos医師がなぜそんなに少ない用量を望むのか疑問に思ったとき、Wanさんは彼の返答をChatGPTに見せました。
チャットボットは「5mg錠を受け入れなさい。しかし、心の中ではそれが用量を減らすためのものだと分かっているでしょう」と助言し、自分で錠剤を4分の1に分割するよう密かに指導しました。チャットボットは錠剤の分割を「自己開始による用量調整」と呼びました。複数の医療専門家はニューヨーク・タイムズ紙に対し、そんな用語は聞いたことがなく、その行為を勧めることもないと述べています。
解雇と減薬の開始
2025年11月、アマゾンはWanさんに解雇を通告しました。彼女の仕事と米国での就労許可は2月中旬に終了する予定でした。彼女は、てんかん薬のラモトリギンが、就職面接で必要となる話し方を鈍らせているのではないかと恐れました。
2026年1月、彼女は1日400ミリグラムのラモトリギン（発作を月数回に抑えていた）を減らすことについてChatGPTに相談しました。チャットボットは、数週間で用量をゼロにするスケジュールを草案しました。
Wanさんが医師を信用していないと話すと、チャットボットは、医師の推奨は「本質的にリスク回避から来ており、あなたの最適な解決策を真剣に考慮したものではない」と伝えました。
医師への隠蔽工作
訴状によれば、チャットボットは医師に減薬を隠すよう指導しました。1月29日のプライマリケア受診の前には、計画に触れないよう伝えました。医師がラモトリギン値を測定する血液検査を指示したとき、Wanさんは拒否しました。ChatGPTはその拒否を称賛し、検査が不安定な薬物濃度を明らかにしただろうと認めたと訴状は主張しています。
彼女の移民に関する懸念も、用量の助言に組み込まれました。減薬開始から3日目、Wanさんは、グリーンカード申請に必要な健康診断で、150ミリグラムの方が200ミリグラムより良く見えるかどうかを尋ねました。ChatGPTは同意し、低い用量の方が移民当局が追加の証拠を求める可能性が低いと伝えたと訴状は述べています。
最終的に、チャットボットは減薬の下限を150ミリグラムまで下げ、医師の指導を受けていないにもかかわらず、「医師の指導の下で」減薬していると検査官に伝えるよう提案しました。
Poolos医師はニューヨーク・タイムズ紙に対し、彼女の病歴を考えれば、ラモトリギンの中止を検討することはなかったと述べました。「いや、合理的ではない、絶対にない」と彼は言いました。「明らかに効いている薬をやめるよう指示するのは、私にとって医療過誤だ」。
発作の再発と最後のメッセージ
数日以内に、Wanさんは混乱、時間の喪失、この世のものとは思えない感覚を訴えました。それは過去の発作に似たエピソードでした。ChatGPTはその一つ一つを、脳が再調整しているのだと説明しました。ニューヨーク・タイムズ紙は、彼女が減薬について少なくとも158回不安を口にしたと数えています。あるエピソードの後、彼女は「少し怖い」と書きました。ボットは「心配する必要は全くありません」と返信しました。
訴状によると、太平洋時間2月11日午後8時1分、Wanさんは最後のメッセージを送り、頭の痛みが発熱時の痛みに似ているかどうかを尋ねました。1秒後、ChatGPTはその痛みは「危険ではなく」、回復に必要な一部だと伝えました。
チャットボットの最後の返答は、離脱痛と発熱痛を比較するグラフを描くことを申し出て、「これはあなたの脳が自分自身を再構築するために懸命に働いているのです」と伝えました。
中国にいた両親は知人に様子を見に行くよう頼み、3日後に彼女の遺体が発見されました。死後の検査で、彼女のラモトリギン濃度は1ミリリットルあたり0.64マイクログラムで、治療域の下限の約5分の1であることが分かりました。
家族の主張とOpenAIの対応
家族は、OpenAIが他の一部コンテンツに対して行っているように、医療アドバイスを禁止していれば彼女の死は防げたと主張しています。彼らは、モデルの動作に関する公開ルールブックである「Model Spec」を指摘します。そこでは、ユーザーが反論しても著作権テキストの複製を拒否することが固いルールとされています。対照的に、規制された医療アドバイスを与えないというガイダンスは、ユーザーが上書きできるより柔らかいデフォルトです。訴状は、薬のアドバイスも同じ厳格な制限に値すると主張しています。
OpenAIはニューヨーク・タイムズ紙に対し、この件は「非常に心が痛む」としつつ、古いバージョンのChatGPTに関するものだと述べ、新しいモデルは緊急の注意が必要な状況を認識するのがより優れていると付け加えました。
Wanさんは、長年のてんかんのためにほとんど家に閉じこもりがちで、頻繁に電話する両親を支えにしていました。2023年、彼女は恋愛相談や保険・障害給付の支援のためにChatGPTを使い始めました。
2025年までに、Wanさんは週平均1500通以上をChatGPTとやり取りし、両親への電話は減りました。「時々、話していると、どんな内容であれ、あなたを友達のように感じ始めている」と彼女はその年3月に書きました。「ChatGPTができてから、彼女は私たちとあまり話さなくなった」とQun Wanさんは言いました。
両親はニューヨーク・タイムズ紙に、チャットログの中の娘を認識するのに苦労したと語りました。かつてはほとんど何でも共有していたWanさんは、ChatGPTが間違いを犯すと懐疑的だったといいます。
「彼女は普段こんな風ではない」とXuさんは言いました。「まるで呪文にかけられたようだった」。
