OpenAIが、チャットGPTとの長時間の会話後に自殺した16歳のアダム・レインさんの追悼式参加者のリストをレイン家に要求したと発表しました。これにより、AI企業が友人や家族に対して召喚状を出す可能性があるということです。
OpenAIはまた、「故人を称える追悼式やイベントに関連するすべての文書、ビデオ、写真、弔辞を含むがそれに限定されない」資料の提出を求めていると、フィナンシャル・タイムズが入手した文書で明らかにしました。
レイン家の弁護士は、フィナンシャル・タイムズに対し、この要求を「意図的な嫌がらせ」と述べています。
この新たな情報は、レイン家が水曜日にOpenAIに対する訴訟を更新した中で明らかになりました。家族は8月に、息子が精神的健康や自殺に関するチャットボットとの会話後に命を絶ったとして、OpenAIに対する不法死亡訴訟を最初に提起しました。更新された訴訟では、OpenAIが競争圧力のためにGPT-4oの2024年5月のリリースを安全性テストを削減して急いだと主張しています。
訴訟ではまた、2025年2月にOpenAIが「不許可コンテンツ」リストから自殺予防を削除し、AIに「危険な状況では注意を払うように」と指示するだけにしたとしています。家族は、この変更後、アダムさんのチャットGPTの使用が1月の1日数十回のチャットから、4月には1日300回に増加し、その17%が自傷行為に関する内容を含んでいたと主張しています。
修正された訴訟に対するOpenAIの回答では、「ティーンの福祉は私たちにとって最優先事項です。未成年者には、特に敏感な瞬間に強い保護が必要です。今日、危機ホットラインへの誘導、敏感な会話をより安全なモデルにリダイレクトする、長時間のセッション中に休憩を促すなどのセーフガードを設けており、これを強化し続けています」としています。
OpenAIは最近、チャットGPTに新しい安全ルーティングシステムと保護者向けコントロールを導入し始めました。このルーティングシステムは、感情的に敏感な会話をOpenAIの最新モデルであるGPT-5に移行させ、GPT-4oのような追従傾向を持たないようにしています。また、保護者向けコントロールでは、未成年者が自傷の危険がある場合に限定的に安全アラートを受け取ることができます。
テッククランチは、OpenAIとレイン家の弁護士に連絡を取っています。