イーロン・マスク氏のAI企業であるX社は、GrokのAI画像生成機能を有料会員のみに制限したと発表しました。この決定は、女性や子供の性的な画像を生成することができるとして、世界中から批判を受けたことを受けたものです。
金曜日にユーザーへの返信で、GrokはXの有料会員のみがプラットフォーム上で画像を生成および編集できると述べました。ただし、Grokアプリにはこの制限は適用されておらず、記事執筆時点では誰でも無料で画像を生成できる状態でした。
Grokの画像生成機能は、当初は誰でも日次制限付きで利用可能でしたが、ユーザーは誰の写真でもアップロードし、それを編集または性的な画像に変換することが可能でした。この結果、子供や俳優、モデル、著名人の合意のない性的画像が大量に生成され、複数の国から非難を受けました。
X社とマスク氏は、このような画像を生成するためのツールの使用を公に非難し、違法なコンテンツの投稿を禁止する方針を維持すると表明しました。マスク氏は先週、「Grokを使って違法なコンテンツを作成する者は、違法なコンテンツをアップロードする場合と同じ結果を受ける」とツイートしました。
イギリス、欧州連合（EU）、インドは、X社とGrokのこうした機能の使用を公に非難しています。EUは木曜日にxAIに対し、チャットボットに関するすべての文書を保持するよう求めました。また、インドの通信省は先週、X社に対し、画像生成機能の悪用を防ぐための即時の変更を行うよう命じ、そうでなければ国内での安全な運用の保護を失う可能性があると警告しました。イギリスの通信監視機関も、この問題についてxAIと連絡を取っているということです。