イーロン・マスク氏が運営するソーシャルネットワーク「X」は、編集された画像を「操作されたメディア」としてラベル付けする新しい機能を導入する方針を発表しました。これは、マスク氏の投稿から明らかになったということです。しかし、どのようにその判定を行うのか、またAdobeのPhotoshopのような伝統的なツールで編集された画像も含まれるのかについては明らかにされていません。
この新機能に関する詳細は、イーロン・マスク氏が匿名のXアカウント「DogeDesigner」の投稿を再共有する形で発表された「編集されたビジュアルの警告」という投稿からのみ確認されています。このアカウントは、Xの新機能を紹介する際にマスク氏が再投稿してニュースを共有するために使われることが多いということです。
しかし、新システムの詳細はまだ不明です。DogeDesignerの投稿によれば、この新機能は「従来のメディアグループが誤解を招くクリップや画像を広めるのを難しくする」ことができるとしています。また、Xにとって新しい機能であるとも主張しています。
Xが以前のTwitter時代に、操作された、誤って変更された、または捏造されたメディアをラベル付けする方針を持っていたことがあります。この方針はAIに限定されず、「選択編集、クロッピング、スローダウン、オーバーダビング、字幕の操作」などを含むものでした。
現時点で、Xが同じルールを採用しているのか、AIに対処するために大幅な変更を加えたのかは不明です。Xのヘルプドキュメントには、偽のメディアの共有を禁止する方針があると記載されていますが、最近のディープフェイク問題で示されたように、あまり厳格に施行されていません。
Xがどのように「編集された」画像を判断するのか、またAI生成またはAI操作された画像をどのように特定するのかについての理解が必要です。また、ユーザーはXの群衆ソースのコミュニティノート以外に異議申し立てのプロセスがあるかどうかを知る必要があります。
Metaが2024年にAI画像ラベルを導入した際、検出システムが誤作動することがありました。これは、AI機能が写真家やグラフィックアーティストが使用するクリエイティブツールにますます統合されているためです。Metaは最終的にラベルを「AI情報」に更新しました。
デジタルコンテンツの真正性とコンテンツの出所を確認するための標準設定機関としてC2PA（コンテンツ出所と真正性の連合）が存在します。XがAIコンテンツを識別するためにどのようなプロセスを採用するのかについて、イーロン・マスク氏からの具体的な説明はありません。
Xは、現在C2PAのメンバーには含まれていませんが、最近の変更があったかどうかを確認するために問い合わせを行いました。Xは通常コメント要請に応じませんが、問い合わせを行いました。