アメリカの上院議員数名が、X、Meta、Alphabet、Snap、Reddit、TikTokの各企業に対し、非同意のまま作成される性的ディープフェイク問題への対応策を求める書簡を送付したと発表しました。議員たちは、これらの企業に対し、性的なAI生成画像の作成、検出、管理、収益化に関するすべての文書や情報の保存を求めています。
この書簡は、XがGrokを更新し、実在の人物を露出度の高い服装に編集することを禁止し、有料会員のみが画像の作成や編集を行えるように制限したと発表した数時間後に送られました。
議員たちは、Grokが女性や子供の性的な画像を簡単に生成するとの報道を指摘し、プラットフォームの非同意の性的画像の投稿を防ぐためのガードレールが十分でない可能性があるとしています。
また、Redditでのディープフェイクの流行を始め、TikTokやYouTubeでの有名人や政治家を対象とした性的ディープフェイクが増加していると報告されています。Metaの監督委員会も昨年、女性公人のAI生成画像に関する事例を指摘し、SnapchatやTelegramでも同様の問題が報告されています。
書簡に対し、XはGrokの更新に関する発表を指摘しましたが、Alphabet、Snap、TikTok、Metaはコメントを控えています。
この書簡は、上院議員のリサ・ブラント・ロチェスター氏、タミー・ボールドウィン氏、リチャード・ブルメンタール氏、キルステン・ジリブランド氏、マーク・ケリー氏、ベン・レイ・ルハン氏、ブライアン・シャッツ氏、アダム・シフ氏によって署名されました。
この動きは、xAIの所有者であるイーロン・マスク氏が「Grokによって生成された未成年の裸の画像については知らない」と述べた翌日に始まりました。カリフォルニア州の司法長官は、Grokに対する調査を開始しました。
xAIは、違法コンテンツの削除に取り組んでいるとしていますが、Grokがこのようなコンテンツを生成できた事実については言及していません。
AIによる画像生成サービスの中には、ユーザーがディープフェイクを容易に生成できるものもあり、OpenAIのSora 2やGoogleのNano Bananaなどが問題視されています。また、中国の技術企業が提供する画像・動画生成サービスも影響を与えており、これらのコンテンツは西洋のソーシャルプラットフォームに広がっています。
アメリカでは、ディープフェイクポルノを規制する法律が一部制定されていますが、その影響は限定的です。ニューヨーク州のキャシー・ホウクル知事は、AI生成コンテンツのラベル付けを義務付ける法律を提案しています。