故ロビン・ウィリアムズさんの娘、ゼルダ・ウィリアムズさんは、父親のファンに対し、AI技術を用いた動画の送信をやめるよう求めたと発表しました。彼女は10月のInstagramの投稿で、「父のAI動画を送るのをやめてください。それを見たいとは思いませんし、理解もしません」と述べています。「これは彼が望んでいたことではありません」とも強調しました。
この発言は、OpenAIの新しい動画モデル「Sora 2」と、そのソーシャルアプリがリリースされた直後に行われたということです。このアプリはユーザーが自分や友人、または特定のアニメキャラクターのリアルなディープフェイクを生成することを可能にしています。
このアプリでは、故人を含むディープフェイクが生成可能であるとされています。これは、故人に対する名誉毀損が法的に問題とされないためです。Soraアプリは招待制で利用可能ですが、歴史的人物や故人の有名人の動画が多数生成されていると報告されています。
OpenAIが故人の動画生成に関する線引きをどのように行っているかは不明です。TechCrunchのテストによれば、Sora 2は故ジミー・カーター元大統領やマイケル・ジャクソンの動画は生成しませんが、ロビン・ウィリアムズの動画は生成したとされています。
OpenAIは、故人のディープフェイクの許可に関するコメントをTechCrunchに対して行っていないということです。しかし、法的な前例から見て、故人の名誉毀損についてOpenAIが責任を問われる可能性は低いとされています。
ゼルダ・ウィリアムズさんは、「実在の人々の遺産が『これが彼らに似ているから十分だ』と簡略化され、他人がそれを使ってひどいTikTok動画を作るのは本当に悩ましい」と述べています。
OpenAIの批判者たちは、同社がこの問題に対して軽率な対応をしていると非難しています。Soraのリリース時には、著作権キャラクターのAIクリップが多数投稿されました。映画協会はすでにOpenAIに対して著作権に関する行動を求めており、CEOのサム・アルトマン氏はこの方針を見直すとしています。
Soraは現時点で最もリアルなディープフェイクを生成可能なAIモデルの一つであり、その危険性が指摘されています。他のプラットフォームはSoraに比べて遅れており、さらに少ない制約でポルノグラフィックなディープフェイクの生成が可能です。OpenAIに追随する企業が増える中で、実在の人物を個人的な遊び道具のように扱うことは、恐ろしい前例を作ることになります。