X社は、AI技術を用いて生成された武力紛争の動画を無表記で投稿するクリエイターに対し、収益共有プログラムから一時的に排除する措置を講じると発表しました。X社のプロダクト責任者であるニキータ・ビア氏は火曜日に、このような誤解を招く投稿を行う者は3か月間（90日間）、収益共有プログラムから排除されると述べました。
この措置が解除された後も誤解を招くAIコンテンツの投稿を続ける場合、プログラムから永久に排除されることになります。
「戦時中には、現地の信頼できる情報へのアクセスが重要です。現在のAI技術では、人々を誤解させるコンテンツを簡単に作成することができます」とビア氏はXで述べています。「今後、AI生成の武力紛争動画を無表記で投稿するユーザーは、収益共有プログラムから90日間停止されます。」
X社は、生成AIコンテンツを検出するためのツールと、クラウドソース型のファクトチェックシステムであるコミュニティノートを活用して、誤解を招く投稿を特定するということです。
X社の収益共有プログラムは、クリエイターがプラットフォーム上で収入を得ることを可能にし、人気のある投稿に対する広告収入を共有する仕組みです。このプログラムは、X上の魅力的なコンテンツの増加を目的としていますが、批判者は、センセーショナルなコンテンツやクリックベイトなどの投稿を促進する可能性があると指摘しています。また、コンテンツの管理が緩やかであることや、クリエイターがXの有料会員であることが参加条件であることにも批判が寄せられています。
AIを用いて誤解を招く写真や動画を作成することが容易であることから、このようなコンテンツに対する金銭的報酬を禁止することは限定的な対策に過ぎません。戦争以外の場面では、AIメディアが政治的な誤情報やインフルエンサー経済における欺瞞的な商品を推進するために使用されることが多く、新しい方針でもこれらは引き続き許可されるということです。
