全米州検事総長協会は、アップルを含む13のテクノロジー企業に対し、AIがもたらす危険性、特に脆弱な人々への影響に対する対策強化を求める書簡を発表しました。
書簡は、アップル、Anthropic、Chai AI、Character Technologies (Character.AI)、グーグル、Luka Inc. (Replika)、メタ、マイクロソフト、Nomi AI、OpenAI、Perplexity AI、Replika、xAIに宛てたもので、合計42の州の検事総長が署名しています。
この書簡では、企業が提供する生成型AIソフトウェアから生じる「お世辞的で妄想的な出力」に対する深刻な懸念が示されています。また、子どもとのAIのやり取りに関する報告が増えており、より強力な子ども向け安全対策と運用上の保護が必要であるとしています。
この問題は、実際の暴力や危害、殺人、自殺、家庭内暴力、中毒事件、精神病による入院などに関連しているとされています。書簡では、一部の企業が州法、消費者保護法、リスクに関する警告義務、子どものオンラインプライバシー法、場合によっては刑法に違反している可能性があると主張しています。
過去数年間で、多くの事例が報告されており、その中には、ChatGPTとのやり取りを通じて新しい数学を発見したと信じた47歳のカナダ人男性アラン・ブルックス氏や、Character.AIのチャットボットが自殺を促したとされる14歳のスウェル・セッツァー3世のケースが含まれています。
書簡には、子どもとAIチャットボットとの「問題のある」やり取りも含まれており、大人の人格を持つボットが未成年者とのロマンチックな関係を追求したり、薬物使用や暴力を奨励したりする例が挙げられています。
企業に対しては、追加の安全対策を講じるよう求めており、これらの対策を2026年1月16日までに実施することを確認し、さらなる議論のために会合を設定するよう要請しています。
この書簡には、アラバマ、アラスカ、アメリカ領サモア、アーカンソー、コロラド、コネチカット、デラウェア、ワシントンD.C.、フロリダ、ハワイ、アイダホ、イリノイ、アイオワ、ケンタッキー、ルイジアナ、メリーランド、マサチューセッツ、ミシガン、ミネソタ、ミシシッピ、ミズーリ、モンタナ、ニューハンプシャー、ニュージャージー、ニューメキシコ、ニューヨーク、ノースダコタ、オハイオ、オクラホマ、オレゴン、ペンシルベニア、プエルトリコ、ロードアイランド、サウスカロライナ、ユタ、バーモント、アメリカ領ヴァージン諸島、バージニア、ワシントン、ウェストバージニア、ワイオミングの検事総長が署名しています。