メタは本日、AIキャラクターのティーンへのアクセスを全世界で一時停止すると発表しました。これは、ティーン向けのAIキャラクターの新しいバージョンを開発するための措置で、取り組みを放棄するものではないとしています。
この動きは、メタがアプリ上で子どもたちを性的搾取から保護する努力を怠ったとされる訴訟がニューメキシコ州で開かれる数日前に行われました。ワイアード誌は、メタがティーンのメンタルヘルスに対するソーシャルメディアの影響に関する情報開示を制限しようとしていると報じています。
10月には、AIキャラクターに対する親の管理機能がプレビューされ、親が特定のキャラクターへのアクセスを制限できるようになっていました。これらの機能は今年中にリリースされる予定でしたが、メタはAIキャラクターをティーン向けに完全に停止し、新しいバージョンを開発するとしています。
メタは、親からティーンのAIキャラクターとのやり取りに関するより多くの洞察と管理を求められたため、これらの変更を行うことに決めたと述べています。
また、10月にはインスタグラムでティーンのAIコンテンツへのアクセスを制限するための親の管理機能が導入されました。これらの機能はPG-13の映画評価に触発され、極端な暴力、ヌード、薬物使用などのトピックへのティーンのアクセスを制限するものでした。
「今後数週間以内に、ティーンはAIキャラクターへのアクセスができなくなります。これは、誕生日情報でティーンとされる人や、年齢予測技術でティーンと判断される人に適用されます」とメタはブログで更新しました。
メタは、新しいAIキャラクターには親の管理機能が組み込まれるとし、教育、スポーツ、趣味などのトピックに限定した年齢に適した応答を提供するとしています。
ソーシャルメディア企業は規制当局から厳しい監視を受けています。ニューメキシコ州の訴訟のほかにも、メタはソーシャルメディア依存を引き起こしたとして来週裁判を控えており、CEOのマーク・ザッカーバーグ氏が証言台に立つ予定です。
AI企業もまた、ティーン向けの体験を修正する必要に迫られています。10月には、キャラクター.AIが18歳未満のユーザーに対してオープンエンドの会話を禁止しました。11月には、子ども向けのインタラクティブストーリーを構築すると発表しました。最近では、オープンAIがChatGPTに新しいティーンの安全ルールを導入し、ユーザーの年齢を予測してコンテンツ制限を適用し始めました。
訂正：この投稿は、AIキャラクターの新バージョンが全員にアクセス可能となり、親の管理機能が含まれることを明確にするために更新されました。
