OpenAIは、最新のiPhoneアプリ「Sora」において、ユーザーが自身の映像を他者が利用する際の制限を設定できる新しい安全機能を導入したと発表しました。
このアプリは、アイデアを超リアルな動画に変換するツールとして説明されていますが、実際には誰でも簡単にディープフェイクを作成できる手段と捉えられています。
ユーザーは自分の顔を用いたSora動画を作成する際に、他者がそれを使用するかどうかを選択することができます。しかし、許可を与えた後は、その使用方法に対する制御がほとんどありませんでした。このため、ユーザーの意図に反する政治的な意見を表現する動画が作成されるなどの問題が発生していました。
OpenAIのSora担当者であるビル・ピーブルズ氏は、同社が迅速に制御機能を導入したと述べています。今日から、他者が自身の動画に利用する際の制限を設定することが可能になりました。例えば、「政治的なコメントを含む動画に自分を登場させないでください」や「この言葉を言わせないでください」という指示を設定できます。これを利用するには、カメオ編集 > カメオ設定 > 制限で設定できます。
さらに、同社は今後、ウォーターマークをより明確で見やすくする予定であるとしていますが、ウォーターマークの除去を防ぐための具体的な対策については明らかにされていません。
このアプリは現在、アメリカとカナダのApp Storeでのみ利用可能で、急速に人気を集めています。
