アメリカの非営利団体「テック・トランスペアレンシー・プロジェクト（TTP）」は、IT大手アップルやグーグルのアプリストアにおける検索機能や広告が、ディープフェイク技術を用いて女性の偽の裸の画像を生成するアプリの発見を助長していると指摘する報告書を発表しました。
今年1月の調査に続く今回の報告書によりますと、アップルの「App Store」やグーグルの「Google Play」では、女性の偽の裸の画像を生成するアプリが依然として配信されています。一部のアプリは、未成年にも適していると表示されているということです。TTPが「ヌード化」や「ディープヌード」などのキーワードで検索したところ、上位10件のアプリのうちおよそ40%が、女性を裸や薄着の姿に加工できるものでした。
また、検索結果にはこれらのアプリが広告として表示されるケースも確認されたとしています。
TTPの調査によりますと、「ディープフェイク」と検索した際、最初に表示されたのは顔の合成ができる「FaceSwap Video」というアプリの広告でした。TTPが服を着た女性の画像と上半身が裸の女性の動画をアップロードしてテストしたところ、服を着た女性の顔が裸の女性の体に合わせて合成された動画が生成されたということです。
さらに、「AI Face Swap」という別の顔合成アプリの広告でも、同様に制限なく顔の合成が行えたとしています。
TTPは、アップルとグーグルに加えて、これらのアプリの開発者にも連絡を取りました。ある開発者は、画像生成にAIモデル「Grok（グロック）」を使用していることを認めたうえで、「これほど過激なコンテンツが生成できるとは把握していなかった」と釈明しました。この開発者は今後、画像生成における監視設定を強化する方針を示しています。
報告書では、App Storeの検索窓に特定の文字列を入力すると、不適切なコンテンツを意味する検索候補が予測変換（サジェスト）として表示され、その結果として複数の「ヌード化」アプリが上位に表示される問題も指摘されています。
アップルはTTPからのコメントの求めには応じなかったものの、報告書で指摘されたアプリの大部分をストアから削除する対応をとったということです。