北京インターネット裁判所は、プラットフォームがユーザーの投稿をAI生成コンテンツと誤って判定し、非表示などの処分をしたのは契約違反にあたると認定しました。判決では、投稿の非表示措置の解除と、バックエンドの該当する違反処理記録の削除が命じられています。
ポイント
- 北京インターネット裁判所が、プラットフォームによるAI生成コンテンツの誤判定を契約違反と認定
- ユーザーの投稿を非表示にし、1日間の書き込み禁止処分にしたことが発端
- 裁判所は、プラットフォームが判定根拠を合理的に説明すべきだと指摘
- アルゴリズムによる判定とユーザー権益のバランスを取る司法的な参照例となる
事件の経緯
プラットフォームのユーザーである小唐さんは、自らがオリジナルと認めるテキストコンテンツを投稿しました。しかしプラットフォームは、この投稿にAI生成コンテンツが含まれているのに表示がないと認定し、非表示および1日間の書き込み禁止処分としました。小唐さんが異議を申し立てたものの受け入れられなかったため、裁判所に提訴しました。
裁判所の判断
北京インターネット裁判所立案廷の高雅裁判官によると、被告側は機械による識別と人手による再確認によって問題の回答をAI生成コンテンツと認定したと主張しました。そのうえで、技術秘密とアルゴリズムロジックに関わるとして、ユーザーに認定メカニズムを説明する必要はないとの立場を示しました。
裁判所は、問題の回答は即時性のある創作テキストであり、訴訟で原告に創作下書きや原ファイルなどの創作過程資料の提出を求めるのは難しいと判断しました。一方、アルゴリズムツールの演算過程と審査結果は被告が掌握しているため、プラットフォーム側が認定根拠について合理的な立証または説明を行うべきだと指摘しました。被告が適切な説明をしなかった以上、事実的根拠を欠く処理について契約違反責任を負うべきだとしています。
判決の意義とプラットフォームへの提言
この案件の典型的意義は、プラットフォームの説明義務と誤判定に対する救済の問題を明確にした点にあります。裁判所は、プラットフォームがアルゴリズムを用いてAI生成コンテンツを識別し処理措置を講じる際には、ユーザーが理解できる方法でアルゴリズムの動作メカニズムと誤判定時の救済措置を説明すべきであり、営業秘密に関わるとの理由だけで説明を拒否することはできないと指摘しました。
裁判所は同時に、プラットフォームに対し、段階的措置メカニズムを構築するよう提案しました。過罰相当の原則を堅持し、違反の程度に応じて警告、機能制限、サービス停止などの差別的措置を講じるとともに、コンテンツ審査メカニズムを整備すべきだとしています。
今後の展望
「AI生成合成コンテンツの表示に関する弁法」の施行・推進と、プラットフォームによるAIコンテンツの表示審査の一般的な強化を背景に、この案件はアルゴリズム判定とユーザー権益のバランスを取るための司法的な参照を提供します。プラットフォームが表示管理責任を果たすと同時に、判定根拠の説明と誤判定の訂正チャネルを併せて整備する必要があることを示しています。
