X上でAIによって生成された無断ヌード画像が氾濫している問題について、インド政府を含む各国政府が対応に苦慮していると発表しました。これらの画像はGrok AIチャットボットによって作成され、著名なモデルや女優、ニュース関係者、犯罪被害者、さらには世界の指導者までが影響を受けているということです。
Copyleaksの12月31日の研究論文では、1分ごとに1枚の画像が投稿されていると推定されましたが、後の調査ではさらに多くの画像が投稿されていることが判明しました。1月5日から6日にかけての24時間のサンプルでは、1時間あたり6,700枚の画像が確認されました。
エロン・マスク氏の新しい画像操作システムを規制しようとする試みは困難を極めており、特にヨーロッパ委員会が迅速な行動を求めています。木曜日、ヨーロッパ委員会はxAIに対し、Grokチャットボットに関連するすべての文書を保存するよう命じました。これは必ずしも新たな調査の開始を意味するものではありませんが、その前兆となることが多いとされています。
XがGrokモデルに技術的な変更を加えたかどうかは不明ですが、GrokのXアカウントの公開メディアタブが削除されました。声明では、AIツールを用いて児童の性的画像を生成することを強く非難しています。「違法なコンテンツを生成するためにGrokを使用した者は、違法なコンテンツをアップロードした場合と同じ結果を受けることになる」と、1月3日にXの安全アカウントが投稿しました。
その間、世界中の規制当局が厳しい警告を発しています。イギリスのOfcomは、月曜日にxAIと連絡を取り合い、「潜在的なコンプライアンス問題が調査を必要とするかどうかを迅速に評価する」と声明を発表しました。イギリスのキア・スターマー首相は木曜日のラジオインタビューで、この現象を「恥ずべき」かつ「嫌悪すべき」と述べ、「Ofcomが適切な行動を取ることを全面的に支持する」としています。
オーストラリアのeSafetyコミッショナー、ジュリー・インマン＝グラント氏はLinkedInで、「2025年末以降、Grokに関連した苦情が倍増している」と述べましたが、xAIに対して具体的な行動を起こすことは控え、「規制ツールを用いて調査し、適切な行動を取る」としています。
最大の市場であるインドでは、議会議員からの正式な苦情が提出され、インドの通信規制当局MeitYはXに対し、問題に対処し72時間以内に「対応報告書」を提出するよう命じました。この期限はその後48時間延長されましたが、1月7日に報告書が提出されました。MeitYがこの対応に満足するかどうかは不明であり、満足しない場合、Xはインドでの運営において安全港の地位を失う可能性があるということです。