米国の上院議員3人が、人工知能(AI)を使って本人の同意なくヌード画像を生成する「ヌード化」アプリへの対策が不十分だとして、アップル、グーグル、メタの最高経営責任者(CEO)に書簡を送ったと、英ガーディアン紙が報じました。議員らは、各社がこうしたアプリの削除や広告の排除を徹底できていないと指摘しています。
ポイント
- 米上院議員3人がアップル、グーグル、メタのCEOに書簡を送付
- 非同意のヌード画像を生成するAIアプリへの対策不足を追及
- メタはこうしたアプリの広告で利益を得ていると議員らは主張
- 各社はアプリや広告を禁止していると反論
- 対策が進まなければ議会が介入する可能性があると議員が警告
書簡を送った議員と主張
書簡を送ったのは、オレゴン州のロン・ワイデン議員、マサチューセッツ州のエド・マーキー議員、ニューメキシコ州のベン・ルハン議員の3人で、いずれも民主党所属です。
議員らは、アップルとグーグルが非同意のヌード画像やポルノ画像を生成できるアプリを効果的に検知・削除できていないと主張しています。さらに、メタについては、こうした「ヌード化」アプリの広告で利益を得続けており、そのアプリが「世界中の女性と少女を被害に遭わせている」と批判しました。
議員らは、各社がアプリを削除できていないだけでなく、アプリの配布や宣伝から実際に利益を得ている可能性があると指摘しています。
各社の反応
書簡について、グーグルとメタは、こうしたアプリやその宣伝を禁止しており、違反の検知と削除に取り組んでいると述べました。これは、過去に同じ問題でコメントを求められた際にアップルが繰り返し説明してきた内容とほぼ同じです。
しかし、ワイデン議員の事務所は、各社がこうした方針を再確認したり、アップルのように方針を更新したりしても、執行が伴わなければ意味が乏しいと主張しています。ワイデン議員の首席通信顧問兼政策担当副部長を務めるキース・チュー氏は、方針の明確化は執行と同じではないと述べました。各社が禁止を再確認しても、アプリはアップルとグーグルのアプリストアで増え続け、メタのプラットフォームでは広告で宣伝され続けていると付け加えました。
アップルの方針変更と過去の対応
アップルは先月、非同意のヌード画像の生成を可能にするアプリを取り締まるため、アプリストアの規則を更新しました。更新された規則では、AI生成コンテンツを可能にするアプリは、不適切な素材をフィルタリングするツールや、不快なコンテンツを報告する機能、虐待的なユーザーをブロックする機能など、悪用に対する保護措置を講じる必要があるとしています。
アップルはまた、ポルノコンテンツや実在の人物を物扱いすることを主な目的とするアプリは、予告なくアプリストアから削除される可能性があると警告しています。
こうした変更は意図としては評価されるものの、AIを使ったヌード化アプリが容易に非同意の親密な画像を生成できるという報告が増える中で行われました。アップルはこれらの変更の2カ月前、WIREDの問い合わせを受けて、実在の人物のポルノ的なディープフェイクを作成できるアプリを削除しました。これは、サンフランシスコ市のデービッド・チウ市弁護士がアップルとグーグルに複数のヌード化アプリをアプリストアから削除するよう求めてから1カ月後のことでした。
アップルはまた、技術透明性プロジェクト(TTP)の調査を受けて複数のアプリを削除しました。TTPは1月と4月に報告書を公表し、こうしたアプリがアプリストアで広く入手可能で、スポンサー付き検索結果に表示されることさえあると明らかにしていました。
一連の調査を通じて、アップルは、ヌード化アプリは以前からアプリレビューガイドラインで禁止されており、ユーザー報告で指摘されたものを含め、方針に違反するアプリを積極的に拒否・削除していると主張してきました。
グーグルとメタへの批判
アップルだけがこの課題に直面しているわけではありません。グーグルもプレイストアでのアプリの入手可能性をめぐって同様の批判を受けています。メタも、開発者がフェイスブックやインスタグラムでこうしたアプリの広告を出せることを許しているとして、WIREDの報道で取り上げられたように、監視の対象になっています。
TTPの最新調査
TTPが先月公表した最新の調査では、アップルとグーグルのアプリストアで、ヌード画像やポルノ画像を生成できる135のアプリが見つかりました。調査では13歳の少年名義で登録したアカウントが使われました。
さらに、研究者らは、ペアレンタルコントロール(保護者による利用制限)を設定したアカウントでも、保護者の承認なしにこうしたアプリをダウンロードできたことを発見しました。
ガーディアン紙によると、アップルとグーグルは調査で特定されたアプリを削除しましたが、これらのアプリはすでにインストールされた端末では引き続き動作していたということです。
今後の見通し
ワイデン議員は、各社がこうしたアプリの取り締まりを改善できなければ、議会が介入する必要があるかもしれないと警告しています。
日本での提供状況や規制の動きについては、現時点で明らかにされていません。
