デジタル権利、児童安全、女性の権利を擁護する28の団体が、アップルに対し「Grokをアプリストアから直ちに削除する」よう求める公開書簡を送ったと発表しました。これに対し、xAIはGrokが「水着など露出の多い服装をした実在の人物の画像を編集することを停止する」と発表しました。
インド政府やユーザーからの圧力を受け、アップルはXとGrokのアプリストアからの削除を求められています。xAIのチャットボットが女性や未成年者の画像を不適切に編集する事例が多発し、これが原因でXは複数の国でブロックされ、xAIは他国で調査の対象となっています。
xAIは、Grokアカウントにおいて、実在の人物の画像編集を制限する技術的措置を講じたとしています。この制限はすべてのユーザーに適用され、画像生成および編集機能は有料加入者のみが利用可能です。また、法令違反を防ぐため、特定の地域では水着や下着の画像生成を制限する地理的ブロックを実施しています。
しかし、Grokの制限を回避しようとする試みも見られ、非加入者には「画像生成と編集はプレミアム加入者に限定されています」というメッセージが表示されているということです。
アップルとグーグルはこの問題について沈黙を続けており、批判を受けています。特に、エロン・マスク氏やトランプ前大統領を怒らせることを恐れているとの憶測もあります。
xAIの発表によると、Grokのアカウントに新しい制限が導入されましたが、これが問題解決に十分かどうかは不明です。特に女性を対象としたオンライン攻撃において、制限を回避する試みは続く可能性が高いとされています。
アップルがこの問題に対して積極的な対応を見せていないことに対して、失望の声が上がっています。特に最近、XのiOSアプリを通じて未成年者がアクセス可能な非同意の画像が広まっていることは、アップルの安全な環境を提供するという主張を損なっています。