AIによる動画生成は現実的な懸念事項となっています。AI動画には、昨年のクリスマス広告でのコカ・コーラの急変するトラックのように、見破りやすい特徴がある場合もありますが、視聴者を欺くには十分であることが多いです。このため、一部のプラットフォーム所有者は、問題を引き起こす可能性のあるディープフェイクに先んじて対策を講じようとしています。
YouTubeは、政治家や政府職員、政治候補者、報道関係者を対象に、顔認識機能のサポートを拡大すると発表しました。この機能は昨年、YouTubeのパートナー向けに導入されましたが、新たに保護されるカテゴリーに属する人々は、このプログラムに参加しなくても利用可能となります。YouTubeの顔認識機能は、プラットフォーム上のAI生成コンテンツで顔の一致を検出し、一致した参加者がその動画に対して削除要請を行うことを可能にします。
YouTubeによれば、すべての一致したコンテンツを自動的に削除するわけではなく、パロディや風刺に対しては特例を設けていますが、既存のプライバシーガイドラインに違反するものを監視しています。このプログラムに参加資格のある人々は、Googleでの身元確認が必要ですが、このデータはAIモデルの訓練には使用されないとしています。また、YouTubeはこの発表を通じて、連邦のパブリシティ権を確立し、国際的な採用の青写真として機能する「NO FAKES法案」の議会での可決を求めています。
残念ながら、YouTubeのパートナープログラムに参加していない場合や、支援対象の公的な役割に該当しない場合、顔認識機能の利用は現時点では難しいということです。
