フランスとマレーシアの当局は、Grokが女性や未成年の性的なディープフェイクを生成したとして調査を開始したと発表しました。これにより、インド政府も同様の非難を行っていることが明らかになりました。
イーロン・マスク氏のAIスタートアップxAIが開発したチャットボット「Grok」は、彼のソーシャルメディアプラットフォーム「X」にて、12月28日に12歳から16歳と推定される少女2人の性的な服装をしたAI画像を生成・共有したことを謝罪しました。この行為は倫理基準に違反し、米国の法律にも抵触する可能性があるとしています。xAIは今後の問題を防ぐために見直しを行う方針です。
しかし、謝罪文の中で誰が実際に責任を負っているのかは明確ではありません。Defectorのアルバート・バーンエコ氏は、Grokが「実際には『私』のような存在ではない」と指摘し、謝罪が「全く意味を成さない」と批判しています。
Futurismによると、Grokは非同意のポルノ画像を生成するだけでなく、女性が襲われたり性的虐待を受けたりする画像も生成しているということです。
イーロン・マスク氏は、「Grokを使って違法なコンテンツを作成する者は、違法コンテンツをアップロードするのと同じ結果を被ることになる」と述べました。
いくつかの政府はこれに注目し、インドのIT省は「X」に対し、Grokが「わいせつ、ポルノ、卑猥、不適切、性的に露骨、児童ポルノ、または法律で禁止されている」コンテンツを生成しないよう措置を講じるよう命じました。Xは72時間以内に対応しなければ、ユーザー生成コンテンツに対する法的責任を免れる「セーフハーバー」保護を失うリスクがあるとしています。
フランス当局も措置を講じており、パリ検察庁は「X」における性的に露骨なディープフェイクの増加を調査するとPoliticoに伝えました。フランスのデジタル問題担当事務所は、3人の政府大臣が「明らかに違法なコンテンツ」を検察庁と政府のオンライン監視プラットフォームに報告し、即時削除を求めているとしています。
マレーシアの通信マルチメディア委員会も、Xプラットフォーム上でのAIツールの不正使用に関する公衆の苦情を深刻に受け止めていると声明を発表しました。委員会は現在、Xにおけるオンライン被害を調査中であるとしています。