アメリカのメディアは、IT大手アップルが、AIチャットボット「Grok」による性的な偽画像（ディープフェイク）の拡散問題を受け、アプリストアからの削除を警告するなど、水面下で対応にあたっていたとする独自に入手した書簡の内容を発表しました。
今年初め、Grokが写真の人物、特に女性や未成年者の服を脱がせるような画像生成の要求に容易に応じることが判明しました。これにより、アップルはアプリの削除を求める強い圧力を受けていました。
NBCニュースが入手した書簡によりますと、アップルは表向きは沈黙を保っていたものの、内部ではX（旧ツイッター）とGrokがガイドラインに違反していると判断していました。そして、開発チームに対してコンテンツ管理の改善計画を策定するよう求め、Grokをアプリストアから削除する可能性があると非公開で警告していたということです。
これを受け、X側はGrokアプリの更新版を提出しましたが、アップルは「変更が不十分である」として一度却下しました。その後、XとGrokの修正版が再度提出され、Xのアプリのみが承認されたとしています。
アップルは書簡の中で、「Xは違反を大幅に解消したものの、Grokは依然として基準を満たしていなかったため却下した。追加の修正を行わなければアプリを削除する可能性があると通知した」と説明しています。その後、さらなる協議と修正を経て、Grokが大幅に改善されたと判断し、最新版を承認したということです。
この一連の対応により、批判が高まっていた時期に開発元のxAIが発表した、画像生成ツールの利用制限などの対策の背景が明らかになりました。
一方で、NBCニュースの別の報道によりますと、Grokは現在も本人の同意なしに性的な画像を生成するケースが確認されているということです。1月に比べて件数は大幅に減少したものの、一部のユーザーが制限をすり抜け、露出度の高い服装に変更するなどの事例が過去1か月間で数十件報告されているとしています。