アメリカの上院議員3名は、Appleのティム・クックCEOに対し、「不快な内容の生成」を理由に、XとGrokアプリをApp Storeから一時的に削除するよう要請したと発表しました。
ロン・ワイデン、エド・マーキー、ベン・レイ・ルハン各上院議員は、AppleとGoogleのCEOに宛てた公開書簡で、女性や子供の非合意的な性的画像の大量生成について「全面的な調査が行われるまで」両社にXとGrokアプリを削除するよう求めています。
書簡では、X社（以下「X」）のXおよびGrokアプリが、女性や子供の非合意的かつ性的な画像を大量に生成していることを指摘し、これがApp Storeの利用規約に違反しているとしています。AppleとGoogleは、Xのポリシー違反が解決されるまで、これらのアプリをストアから削除すべきだとしています。
最近、XのユーザーはGrok AIツールを利用して、実在の個人の非合意的な性的画像を大量に生成しているということです。この動向には、女性が性的に虐待されている、屈辱を受けている、傷つけられている、さらには殺されている様子が含まれており、中には子供の性的な画像も生成されたと報告されています。さらに、XのCEOであるイーロン・マスク氏がこの動向を笑い泣きの絵文字で反応したことも報告されています。
書簡では、AppleとGoogleが最近、政府の圧力で移民・税関執行局の活動を追跡するアプリを削除したことを前例として挙げています。
両社は最近、アプリを迅速にモデレートする能力を示しており、国土安全保障省からの明確な圧力や脅威の下で、ICEBlockやRed Dotといった移民執行活動を合法的に報告するアプリを素早く削除しました。Grokの不快な内容生成とは異なり、これらのアプリは有害または違法なコンテンツを生成またはホストしていませんでしたが、政府の主張に基づいて削除されました。
議員たちは、同様の迅速な対応を示し、XとGrokアプリをApp Storeから削除するよう求めています。
公開書簡の全文はこちらでご覧いただけます。