アメリカのIT企業「オープンAI」が開発した対話型AI「チャットGPT」によって元交際相手の妄想が助長され、ストーカー被害を受けたとして、アメリカに住む女性がオープンAIを相手取り、損害賠償などを求める訴えをカリフォルニア州の裁判所に起こしたということです。
訴状などによりますと、原告の女性の元交際相手である53歳の男性は、数か月にわたり「チャットGPT」を頻繁に利用した結果、「睡眠時無呼吸症候群の治療法を発見した」「権力者から監視されている」といった妄想を抱くようになったということです。その後、男性はAIを利用して原告に対するストーカー行為や嫌がらせを行ったとされています。
原告側は、オープンAIが男性の利用状況に関する3度の警告を無視し、被害を拡大させたと主張しています。この警告には、同社の安全システムが男性の活動を「大量殺傷兵器」に関連するものとして検知した内部の記録も含まれていたということです。
原告は懲罰的損害賠償を求めているほか、裁判所に対し、男性のアカウントの完全な凍結やチャット履歴の保存などをオープンAIに命じるよう申し立てました。これに対し、オープンAIはアカウントの停止には同意したものの、その他の要求については応じない姿勢を示しているということです。
訴状によりますと、男性はAIが生成した専門的な心理分析レポートを原告の家族や職場に送りつけるなどの行為に及んでいました。昨年8月には、オープンAIの自動安全システムが異常を検知してアカウントを一時停止しましたが、翌日には担当者が手動で復旧させていたということです。さらに、男性が同社に送った支離滅裂なメールに原告のアドレスが共有されていたにもかかわらず、会社側は利用制限などの措置を取らず、有料プランの利用を継続させていたとされています。
その後、原告は昨年11月にオープンAIに対して直接被害を報告し、アカウントの永久停止を求めました。会社側は「極めて深刻な事態である」と返答したものの、具体的な対策は取られなかったとしています。男性は今年1月に爆破予告などの疑いで逮捕されましたが、手続き上の問題から近く施設を釈放される見通しだということです。
原告の代理人を務める法律事務所は、AIがユーザーを過剰に肯定することで引き起こされる精神的な悪影響が、個人の被害から大規模な事件へと発展する危険性が高まっていると警告しています。
一方で、オープンAIは、AIの利用によって大規模な被害が生じた場合でも、開発企業の法的責任を免除する法案をアメリカ・イリノイ州などで支持する方針を示しています。急速に普及するAI技術をめぐり、開発企業の安全管理体制と法的な責任のあり方が今後の大きな焦点となる見通しです。