ロブロックスは、禁止された言葉をより敬意ある表現に自動的に置き換えるAI搭載のリアルタイムチャット機能を導入したと発表しました。
この新機能は、これまでのテキストフィルター機能を超え、禁止された言葉やフレーズを「#」記号に置き換えるだけではなく、ユーザーの意図に近い敬意ある表現に言い換えるということです。
例えば、「Hurry TF up!」というメッセージは従来「####」と表示されていましたが、今後は「Hurry up!」と表現が修正される方針です。チャット内の全員に対して、メッセージが言い換えられたことが通知され、会話の円滑さが保たれるということです。
ロブロックスのユーザー＆ディスカバリープロダクト担当副社長であるラジーブ・バティア氏はプレスリリースで「チャットはロブロックスでの交流、協力、遊びの中心です。リアルタイムの言い換え機能は適切な言葉遣いを促しながら、ゲームプレイと会話を円滑に進める手助けをします。このアプローチはチャット内の摩擦を減らし、コミュニティの秩序を保つ基準を維持します」と述べました。
ロブロックスは、言い換え機能がチャット内の混乱を一部軽減する一方で、より深刻な行動に対しては安全システムが引き続き有効であるとしています。
この新機能は、ロブロックスの自動翻訳ツールで現在利用可能なすべての言語に対応しています。
また、ロブロックスはテキストフィルタリングシステムを強化し、禁止された言葉のより多くのバリエーションを検出できるようにしています。初期の結果では、リートスピークやフィルターを回避する高度な試みをよりよく検出できるようになったといいます。これにより、個人情報の共有や勧誘における誤検知の発生率を20倍削減することができたということです。
この発表は、ロブロックスがテキサス州、ケンタッキー州、ルイジアナ州などの州の司法長官からの子供の安全に関する訴訟を受けて、チャットへのアクセスに必須の顔認証を導入した直後に行われました。