オンラインゲームプラットフォームのロブロックス社は、子供の安全を守るために導入した年齢確認プロセスに関する問題を発表しました。これは、成人と子供のチャットを制限するための試みとして導入されたものです。
インド政府からの批判が高まる中、ロブロックスは昨年12月に部分的に新機能を導入し、今月から世界的に展開しました。この年齢確認は、政府発行の写真付きIDと動画セルフィーを使用したAI年齢推定の選択肢を提供しています。しかし、若い子供たちは写真付きIDを持っていないことが多く、動画セルフィーを使わざるを得ないという現状です。
ロブロックス社によれば、動画セルフィーはチャット機能へのアクセスにのみ必要で、確認後には削除されるとしていますが、多くの親がこの要件に不満を抱いているということです。
技術系メディア「WIRED」は、このプロセスが「完全な混乱」であると報じています。プレイヤー、開発者、親たちは不満を抱えており、システムはその目的を果たせていないということです。AIシステムが子供を成人と誤認し、成人を子供と誤認するケースが多発しています。また、年齢確認済みのアカウントがわずか4ドル（約600円）で販売されていることも判明しました。
プレイヤーたちは友人とチャットできなくなり、開発者たちはアップデートの撤回を求めています。専門家は、AIが若いプレイヤーを成人として誤認するだけでなく、プラットフォームを利用して子供を狙う成人の問題を解決するには不十分であると指摘しています。
ロブロックス社の安全責任者マット・カウフマン氏は、「新しいものを構築する際にスイッチを切り替えるだけで完璧になることはない」と述べ、初期段階での問題は避けられないとしています。また、金曜日の更新で「親が子供の代わりに年齢確認を行い、21歳以上と誤認されるケースがあることを認識しており、解決策を検討中です」とコメントしました。