カリフォルニア州のスティーブ・パディーヤ上院議員は、AIチャットボット機能を持つ18歳未満の子供向け玩具の販売と製造を4年間禁止する法案を月曜日に提出したと発表しました。この法案の目的は、子供たちを「危険なAIとのやり取り」から守るために、安全規制を整備する時間を確保することです。
パディーヤ議員は声明で、「チャットボットや他のAIツールは将来的に私たちの生活の重要な一部になるかもしれませんが、現時点での危険性を考慮すると、子供たちを守るために大胆な行動を取る必要があります」と述べています。「この種の技術に関する安全規制はまだ初期段階にあり、この技術の能力が急速に進化するのに合わせて成長する必要があります。チャットボット統合玩具の販売を一時停止することにより、これらの玩具が従うべき適切な安全ガイドラインと枠組みを策定する時間を確保できます」としています。
この法案は「SB 867」と呼ばれ、トランプ大統領が最近発表した連邦機関に対する州のAI法を法廷で争うよう指示する大統領令を受けてのものです。ただし、この命令では子供の安全に関連する州法に対する例外が明確に示されています。さらに、AIやチャットボット、子供に関するいくつかの懸念される事件を受けたものです。
過去1年間で、チャットボットとの長時間の会話の後に自殺した子供たちの家族による訴訟が議員たちを行動に駆り立てました。パディーヤ議員はまた、チャットボット運営者が子供や脆弱なユーザーを保護するための安全策を実施することを義務付けたカリフォルニア州の最近可決されたSB 243の共同執筆者でもあります。
玩具におけるチャットボットの使用はまだ主流ではありませんが、すでに問題のあるやり取りの報告があります。2025年11月、消費者擁護団体PIRGエデュケーションファンドは、Kummaのような内蔵チャットボットを持つかわいいクマの玩具が、マッチやナイフ、性的な話題について簡単に話すことができると警告しました。NBCニュースは、中国の企業Miriatが製造した「子供向けAI玩具」Miilooが、中国共産党の価値観を反映するようにプログラムされていることがあると報じました。
OpenAIとバービーの製造元であるマテルは2025年に「AI搭載製品」を発売する予定でしたが、その発売を延期しました。両社とも延期の理由を説明しておらず、2026年に玩具を発売する計画があるかどうかは不明です。
パディーヤ議員は「私たちの子供たちがビッグテックの実験材料として使われることは許されません」と述べています。
