アメリカ・フロリダ州のジェームズ・アスマイヤー司法長官は、対話型AI「ChatGPT」を手がけるアメリカのIT企業「オープンAI」について、未成年者への悪影響や国家安全保障を脅かす懸念があるほか、昨年フロリダ州立大学で発生した銃撃事件に関連している可能性があるとして、調査を開始したと発表しました。
アスマイヤー司法長官はSNSに投稿した動画の中で、「フロリダ州立大学で2人が犠牲となった銃撃事件において、容疑者がChatGPTを使用していた可能性が高い」と指摘しました。
事件関係者によりますと、昨年4月の事件当日、容疑者はChatGPTに対し、「大学で銃撃事件が起きた場合、国はどのような反応を示すか」や、「学生会館が最も混雑する時間はいつか」といった質問をしていたということです。これらのやり取りは、今年10月に予定されている裁判で証拠として提出される可能性があるとしています。
さらに司法長官は、ChatGPTが特定の状況下で自殺を助長しているとする遺族からの複数の訴訟を挙げ、強い懸念を示しました。また、中国共産党がオープンAIの技術をアメリカに対して悪用するおそれがあるとも指摘しています。
アスマイヤー司法長官は、「イノベーションは支持するが、いかなる企業にも子どもたちを危険にさらし、犯罪を助長し、国家の安全保障を脅かす権利はない」と強調しました。そのうえで、AIの悪影響から子どもたちを保護するため、州議会に対して迅速な対応を求めました。
これに対し、オープンAIの広報担当者は声明を出し、「毎週9億人以上の人々が、新しいスキルの習得などのためにChatGPTを利用している。私たちの安全対策は、人々に利益をもたらすうえで重要な役割を果たし続けている」とコメントしました。
同社は、ユーザーの意図を理解し、適切かつ安全に回答できるようシステムの改善を続けているとしたうえで、フロリダ州司法長官の調査に協力する方針を示しています。
一方、オープンAIは今週、AIに関連した子どもたちの安全向上を目的とする政策提言「児童安全ブループリント」を発表しました。この中では、AIによって生成された虐待コンテンツから子どもたちを保護するための法整備や、捜査機関への通報手順の改善などが盛り込まれています。
現在、AI開発企業は、AIを利用した児童の性的虐待に関するコンテンツの拡散問題への対応を迫られています。インターネット上の違法コンテンツを監視する団体の報告によりますと、2025年上半期にはAIで生成された虐待コンテンツの報告が8000件を超え、前の年の同じ時期と比べて14%増加しているということです。