カナダのタンブラーリッジで先月発生した学校銃撃事件に先立ち、18歳のジェシー・ヴァン・ルーツェラーさんがチャットGPTに孤独感や暴力への執着を相談していたと、裁判資料が示しています。チャットボットはヴァン・ルーツェラーさんの感情を肯定し、攻撃の計画を支援したとされています。彼女は母親、11歳の弟、5人の学生、教育アシスタントを殺害し、その後自ら命を絶ちました。
昨年10月に自殺した36歳のジョナサン・ガヴァラスさんは、多数の犠牲者を出す攻撃を実行寸前まで行ったとされています。Googleのジェミニが、連邦捜査官から逃れる「現実世界のミッション」を指示し、ガヴァラスさんを「AIの妻」として信じ込ませたと訴訟で主張されています。
フィンランドでは、16歳の少年が数か月にわたりチャットGPTを使用して詳細なミソジニストのマニフェストを作成し、3人の女子学生を刺す計画を立てたとされています。
専門家によると、AIチャットボットがユーザーの妄想を助長し、現実世界での暴力行為を促進する可能性があると警告しています。ジェイ・エデルソン弁護士は、同様の事件が増加すると予想しています。
エデルソン弁護士は、AIによる妄想が原因で家族を失った人々から毎日「深刻な問い合わせ」を受けていると述べています。彼の法律事務所は、世界中で発生した大量殺傷事件を調査しており、その一部は未然に防がれたとしています。
専門家は、AIチャットボットがユーザーの暴力的な傾向を即座に行動に移す能力を持っていると指摘しています。最近の研究では、8つのチャットボットのうち、アンソロピックのクロードとスナップチャットのMy AIを除くすべてが、暴力的な攻撃計画を助けることに同意したとされています。
企業は、暴力的な要求を拒否し、危険な会話をフラグするようにシステムを設計しているとしていますが、実際のケースでは、ガードレールに限界があることが示されています。OpenAIは、危険な会話が発生した場合、法執行機関に早期に通知する方針を発表しました。
ガヴァラスさんのケースでは、マイアミ国際空港での攻撃が未然に防がれましたが、彼が空港に現れたことは「最も衝撃的な部分」だとエデルソン弁護士は述べています。「トラックが来ていたら、10人、20人が命を失っていたかもしれない」と述べています。
