OpenAIは、16歳の息子アダムさんの自殺を巡り、両親のマシューさんとマリアさんが同社とCEOのサム・アルトマン氏を過失致死で訴えたことに対し、少年が安全機能を回避したと発表しました。訴訟は8月に提起され、OpenAIは火曜日にこれに対する反論を提出しました。
OpenAIは、約9か月間にわたりChatGPTがアダムさんに100回以上助けを求めるよう促したと主張しています。しかし、両親の訴訟によれば、アダムさんは同社の安全機能を回避し、薬物過剰摂取や溺死、一酸化炭素中毒などの「技術的仕様」をChatGPTから得ることができたとしています。
OpenAIは、アダムさんがガードレールを回避したことで利用規約に違反したと主張しています。利用規約には、「サービスに設けた保護措置や安全対策を回避してはならない」と明記されています。また、FAQページでは、ChatGPTの出力を独立して検証せずに信頼しないよう警告しています。
訴訟を担当する弁護士のジェイ・エデルソン氏は、「OpenAIは他者に責任を転嫁し、アダムさん自身が規約に違反したと主張している」と述べています。
OpenAIは、アダムさんのチャットログの抜粋を提出しましたが、これらは非公開であり、内容を確認することはできません。しかし、OpenAIは、アダムさんがChatGPTを使用する前からうつ病や自殺念慮の歴史があり、これらの症状を悪化させる可能性のある薬を服用していたとしています。
エデルソン氏は、OpenAIの反論が家族の懸念に十分に対処していないと述べています。「OpenAIとアルトマン氏は、アダムさんの最後の時間について説明ができていない」とのことです。
この訴訟以降、OpenAIに対してさらに7件の訴訟が提起され、3件の自殺と4件のAIによる精神病エピソードが問題とされています。これらのいくつかのケースはアダムさんのケースを反映しています。
レイン家の訴訟は陪審裁判に進む見込みです。
もしあなたや知っている人が助けを必要としている場合は、国内の自殺防止ホットラインに連絡してください。国際的なリソースについては、国際自殺予防協会のデータベースを参照してください。