急成長を遂げたSNS「アップスクロールド」が、ヘイトスピーチの管理問題に直面していると発表しました。2025年に設立されたこのプラットフォームは、アメリカでのTikTokの所有権変更後に人気を集め、ユーザー数は1月に250万人を超えました。しかし、人種差別的な表現を含むユーザー名やハッシュタグが作成されているとの指摘があり、適切な管理が行われていないということです。
テッククランチは、アップスクロールドのユーザーからの情報提供を受け、アプリ内で使用されている人種差別的な表現やヘイトスピーチを確認しました。例えば、ユーザー名に差別的な表現がそのまま使われていたり、他の単語と組み合わされていたりするケースがありました。さらに、「ヒトラーを称賛する」といったヘイトスピーチも含まれているということです。
これらの表現をアップスクロールドの公式メールアドレスに報告したところ、同社は「不適切なコンテンツを積極的に確認し削除している」と回答し、管理能力を拡大する方針を示しました。また、解決までの間、不誠実な行為者と関わらないようにとの助言がありました。
報告から数日後、スクリーンショットで提供されたユーザー名にスラングが含まれるアカウントは依然としてオンラインのままでした。さらに、ハッシュタグや写真・動画コンテンツと共に使用されるテキストにもスラングやヘイトスピーチが見られるということです。
テッククランチのみならず、ADLも今月のブログ投稿で、アップスクロールドが反ユダヤ主義や過激派コンテンツの温床になっていると指摘しました。
アップスクロールドのFAQでは「意見を検閲しない」としつつも、「違法活動、ヘイトスピーチ、いじめ、ハラスメント、露骨なヌード、無許可の著作権素材、または害を与える意図のあるコンテンツ」を制限する方針です。しかし、これらのルールの施行に苦慮しているのが現状です。
この問題は急速にユーザーが増加するSNSが直面する課題であり、2023年7月にはブルースカイも同様の問題に直面しました。
その後、アップスクロールドの創設者イッサム・ヒジャジ氏は新たなビデオで、利用規約に反する「有害なコンテンツ」がアップロードされていることを認めました。健康で尊重し合えるデジタル環境を提供するため、同社は「コンテンツ管理チームを急速に拡大し、技術インフラを強化して有害なコンテンツをより効果的に検出・削除する」としています。