OpenAIは、新しいソーシャルメディアアプリ「Sora」の公開初日、招待制の早期アクセス期間中に、ユーザーがサム・アルトマン氏のディープフェイク映像を生成できることを発表しました。このアプリでは、AIによって生成されたアルトマン氏がカメラに直接視線を送り、ユーザーに話しかける映像が多数掲載されています。
アプリ「Sora」では、ユーザーが自分自身の「カメオ」を作成し、他のユーザーに映像生成を許可することができます。アルトマン氏は自らのカメオを全ユーザーに公開しており、これによりアプリ上には多くの彼の映像が溢れています。ユーザーはこの機能を利用して、アプリの倫理性を問う映像を作成することも可能です。
さらに、アプリでは著作権保有者がコンテンツの使用を事前に拒否しない限り、著作権侵害の可能性があるコンテンツも生成されるという方針です。この点については法的な議論が続いています。
OpenAIは、アプリの安全性を強調し、ペアレンタルコントロールやユーザーがカメオ生成を許可する相手を制限できる機能を導入しています。しかし、ユーザーは既にアプリのガードレールを回避しているということです。
「Sora」では、現実の人物の映像を許可なく生成することはできませんが、歴史上の人物については規制が緩和されています。これにより、政治的ディープフェイクの危険性が指摘されています。アプリが一般公開されれば、より多くのユーザーがこの技術を手にすることになり、さらなる問題が懸念されます。