AIの若年層への影響に対する懸念が高まる中、OpenAIはChatGPTに「年齢予測」機能を導入すると発表しました。この機能は未成年者を特定し、会話内容に適切な制限を設けることを目的としています。
OpenAIは近年、ChatGPTが子どもに与える影響について多くの批判を受けてきました。いくつかのティーンエイジャーの自殺がチャットボットに関連付けられており、他のAIベンダーと同様に、若年ユーザーとの性的な話題のやり取りを許可していることでも批判されています。昨年4月には、18歳未満のユーザーにエロティカを生成するバグに対応せざるを得ませんでした。
同社は未成年ユーザー問題に既に取り組んでおり、新たな「年齢予測」機能は既存の保護策を強化するものです。この新機能は、ユーザーアカウントの特定の「行動およびアカウントレベルのシグナル」を評価するAIアルゴリズムを活用し、若年ユーザーを特定するものだとしています。
これらの「シグナル」には、ユーザーが申告した年齢、アカウントの存在期間、通常アクティブな時間帯などが含まれるということです。18歳未満のユーザーに対しては、性的な話題、暴力、その他の問題になり得るトピックを除外するためのコンテンツフィルターが既に設けられています。年齢予測機能がアカウントを18歳未満と判断した場合、これらのフィルターが自動的に適用される方針です。
誤って未成年と判定されたユーザーには、「成人」アカウントを再確認する方法が用意されています。OpenAIのID確認パートナーであるPersonaにセルフィーを提出することで、再確認が可能だとしています。
