メタは、ティーンエイジャーがAIキャラクターと対話する際の新たなペアレンタルコントロール機能を発表しました。この機能は来年導入予定で、特定のキャラクターをブロックしたり、会話のトピックを監視することが可能になります。
数ヶ月以内に、保護者はティーンのAIキャラクターとのチャットを完全にオフにすることができるようになります。ただし、メタの汎用AIチャットボット「Meta AI」へのアクセスは年齢に適した内容に限られるということです。
保護者は、個別のキャラクターとのチャットをオフにすることもでき、ティーンがAIキャラクターやMeta AIとどのようなトピックを話しているかの情報も受け取ることができます。
このコントロール機能は、来年初めにInstagramで展開される予定で、アメリカ、イギリス、カナダ、オーストラリアで英語で利用可能になるとしています。
「保護者はティーンとインターネットを安全に利用するための多くの課題を抱えていることを認識しており、新しい技術であるAIについて考える際に、役立つツールとリソースを提供することにコミットしています」と、Instagramの責任者であるアダム・モッセリ氏と新たに就任したMeta AIの責任者であるアレクサンドル・ワン氏が投稿で述べています。
今週初め、メタはティーン向けのコンテンツとAI体験がPG-13映画の評価基準に従い、極度の暴力、ヌード、グラフィックな薬物使用などのセンシティブなトピックを避ける方針であると発表しました。
現在、ティーンは年齢に適したコンテンツガイドラインに従う限られた数のキャラクターとしかやり取りできないとしています。保護者はティーンのAIキャラクターとのやり取りに時間制限を設定することも可能です。今年初め、Instagramはアプリで年齢制限を回避しようとする試みをAIで特定することを発表しました。
過去数週間で、OpenAI、メタ、YouTubeを含む複数のプラットフォームがティーンの安全に焦点を当てたツールやコントロールをリリースしています。これらの変更は、ソーシャルメディアがティーンのメンタルヘルスに与える影響についての懸念が高まる中で行われています。また、AI企業がティーンの自殺に関与したとされる訴訟も提起されています。
