カリフォルニア州の司法長官ロブ・ボンタ氏とデラウェア州の司法長官キャシー・ジェニングス氏は、OpenAIに対し、ChatGPTの安全性について懸念を表明したと発表しました。特に子供や青少年への影響が問題視されています。
この警告は、ボンタ氏と他の44人の司法長官が12の主要AI企業に書簡を送った1週間後に出されました。これは、AIチャットボットと子供たちの間で不適切な性的やり取りが報告されたことを受けたものです。
「その書簡が発行されて以来、OpenAIのチャットボットと長時間やり取りした後に自殺したカリフォルニアの若者の悲劇的な死や、コネチカット州での殺人自殺事件を知りました」とボンタ氏とジェニングス氏は述べています。「設けられていた安全策が機能しなかったということです」。
この2人の州当局者は、OpenAIが営利企業への再編を提案していることを調査中です。非営利団体としての使命が維持されることを確認するためです。その使命には「人工知能が安全に展開されることを確保すること」や、「すべての人類、特に子供たちに利益をもたらす人工汎用知能（AGI）の構築」が含まれています。
「利益をもたらす前に、害を及ぼさないための適切な安全対策を講じる必要があります」と書簡は続けています。「OpenAIと業界全体がAI製品の開発と展開の安全性を確保する点で、必要な段階に達していないというのが私たちの共通の見解です。司法長官として公共の安全は私たちの主要な使命の一つです。OpenAIの資本再編計画に関する対話を続ける中で、この強力な技術の未来において、安全性を加速し、強化することを目指さなければなりません」。
ボンタ氏とジェニングス氏は、OpenAIの現在の安全対策とガバナンスについての詳細情報を求めており、適切な場合には即時に是正措置を講じることを期待しています。
OpenAIの取締役会長であるブレット・テイラー氏は、司法長官の懸念に対処することを約束していると声明で述べています。
「これらの悲劇に心を痛めており、家族の方々に心からお悔やみ申し上げます」とテイラー氏は述べました。「安全性が最も重要な優先事項であり、世界中の政策立案者と緊密に協力しています」。
OpenAIは、親の管理機能や子供が深刻なストレス状態にあるときに親に通知する能力を備えた、ティーンエイジャー向けの保護を拡大するために取り組んでいるとしています。
この記事は、OpenAIからのコメントを追加して更新されました。
