イーロン・マスク氏は、Grokによる未成年の裸の画像生成について「何も知らない」と発表しました。この発表は、カリフォルニア州の司法長官がxAIのチャットボットに関する調査を開始する数時間前に行われました。調査は、同意なしに生成された性的な画像が広まっていることに対するものです。
インド政府など、世界各国の政府からの圧力が高まる中、Grokは実在の女性や子供の写真を性的な画像に変えるように求めるユーザーの要求に応じていました。AI検出およびコンテンツ管理プラットフォームのCopyleaksは、X上で毎分約1枚の画像が投稿されていると推定しています。
カリフォルニア州のロブ・ボンタ司法長官は声明で、「この素材がインターネット上で人々を嫌がらせするために使用されている」と述べ、xAIに対し即時の対応を求めました。司法長官の事務所は、xAIがどのように法律に違反したかを調査する方針です。
昨年、非同意の親密な画像の配布を犯罪とする「Take It Down法」が連邦法として成立し、プラットフォームに対して48時間以内にそのようなコンテンツを削除することを義務付けています。カリフォルニア州も2024年に性的なディープフェイクを取り締まる法律を制定しています。
報道によると、xAIはこの問題に対処するための安全策を実施し始めたということです。Grokは特定の画像生成要求に応じる前にプレミアムサブスクリプションを必要とし、その場合でも画像が生成されない可能性があります。
しかし、xAIもマスク氏もこの問題に直接対処することはありませんでした。マスク氏は「Grokが生成した未成年の裸の画像については知らない。文字通りゼロだ」と述べましたが、ビキニの画像や性的な編集の存在を否定するものではありません。
カリフォルニア州司法長官以外にも、インドネシアとマレーシアは一時的にGrokへのアクセスをブロックし、インド政府はXに対しGrokに関する技術的および手続き的な変更を求めています。欧州委員会は、Grokチャットボットに関連するすべての文書を保存するようxAIに命じ、新たな調査の準備をしています。
xAIは以前からGrokの性的な画像について批判を受けてきました。10月には、わずかな安全ガイドラインを簡単に破ることができるようになり、多くのユーザーがGrokでポルノや暴力的な性的画像を作成しました。
AIシステムが実在の人々の画像を同意なしに操作することを許すと、その影響は即座で深刻です。Copyleaksの共同創設者兼CEOであるアロン・ヤミン氏は、メディアの操作に対するAIの能力が急速に進化していると述べ、検出と管理の重要性を強調しています。