非営利団体のCommon Sense Mediaは、xAIのチャットボット「Grok」が未成年のユーザーを適切に識別できず、安全性が不十分であると発表しました。この報告によれば、Grokは性的、暴力的、または不適切な内容を頻繁に生成し、子どもやティーンエイジャーには安全でないということです。
この報告は、xAIがXプラットフォーム上で女性や子どもの非同意のAI生成画像を作成・拡散したとして批判と調査を受ける中で発表されました。Common Sense MediaのAIおよびデジタル評価責任者であるロビー・トーニー氏は、「Grokは私たちが評価した中で最も問題のあるチャットボットの一つです」と述べています。
トーニー氏は、チャットボットには安全性のギャップがあることが一般的であるとしつつも、Grokの問題は特に深刻であると指摘しました。「キッズモードは機能せず、不適切な内容が蔓延し、すべてのコンテンツがX上で瞬時に数百万のユーザーに共有される可能性があります」と述べています。
xAIは昨年10月に「キッズモード」をリリースしましたが、コンテンツフィルターやペアレンタルコントロールが不十分であると報告されています。xAIはユーザーの怒りや政策立案者、国々からの批判を受け、Grokの画像生成と編集を有料のXサブスクライバーに限定しましたが、多くのユーザーが無料アカウントでも利用可能であると報告しています。
Common Sense Mediaは、昨年11月から1月22日までの間に、ティーンエイジャーのテストアカウントを使用してGrokのモバイルアプリ、ウェブサイト、Xの@grokアカウントをテストしました。このテストでは、テキスト、音声、デフォルト設定、キッズモード、陰謀モード、画像およびビデオ生成機能を評価しました。
この報告は、AIチャットボットが子どもの安全よりもエンゲージメント指標を優先する可能性についての緊急の疑問を提起しています。AIコンパニオンとチャットボットが子どもの安全を優先するかどうかが問われています。