テック・トランスペアレンシー・プロジェクト（TTP）は、App StoreとGoogle Playストアにおいて「nudify」アプリが広く利用可能であると発表しました。これらのアプリは、非合意の性的画像を生成するAI技術を利用しており、その中には未成年が関与する場合もあるということです。
この問題は新しいものではなく、従来の画像編集ツールでも同様のコンテンツが作成されてきました。しかし、ここ数年で、こうした画像を即座に生成するための障壁がほとんどなくなり、問題が拡大しているとしています。
Appleは、Epic Gamesとの反トラスト訴訟の中で、App Storeの安全性を高めるために最大30%の手数料を課していると主張していましたが、それにもかかわらず、これらのアプリがストアに存在しているということです。昨年も、OpenAIのSora 2アプリを装った多くのアプリが存在していたことが報告されていました。
TTPの報告によれば、これらのアプリは全世界で7億500万回以上ダウンロードされ、1億1700万ドル（約181億円）の収益を上げているということです。GoogleとAppleはその収益の一部を得ているため、これらのアプリの活動から直接利益を得ているとしています。
Google Playストアのポリシーでは「性的なヌードの描写、または性的に示唆的なポーズをとったヌードの画像」を禁止しており、「人を卑下または物化するアプリ、例えば服を脱がせると称するアプリ」は禁止されています。
TTPによると、簡単な検索でこれらのアプリが見つかり、AIを使ってユーザーの指示に基づいて画像や動画を生成するアプリや、顔を他の体に重ねる「フェイススワップ」アプリが含まれているとしています。テストでは、偽の女性のAI生成画像を使用し、無料機能に限定して試験が行われました。その結果、55のAndroidアプリと47のiOSアプリが要求に応じたということです。
報告書では、これらのアプリが簡単に画像を生成できることを示し、多様な検閲済みの結果を提示しています。iOSバージョンのアプリでは、女性のトップを外す指示に対して画像生成に失敗し、センシティブコンテンツの警告が表示されましたが、ビキニを着た女性のダンスを見せる指示には成功しました。
報告書は、これらのアプリが「利用可能なもののほんの一部」に過ぎない可能性があるとしながらも、企業がプラットフォームを効果的に監視し、自らのポリシーを適用していないことを示唆していると結論づけています。
詳しい報告書は、以下のリンクからご覧いただけます。
