アメリカの掲示板サイト大手「レディット（Reddit）」は、AI（人工知能）によって大量に生成されるスパム投稿への対策として、自社でも大規模言語モデル（LLM）を活用した新たな検知ツールを導入したと発表しました。
近年、高度な大規模言語モデルが容易に利用できるようになったことで、悪意のあるユーザーがインターネット上にスパムを拡散させることが容易になっています。これに伴い、スパムやボットによる投稿は以前にも増して深刻な問題となっています。
レディットによりますと、同社はスパムを削減するために大規模言語モデルを用いたツールを開発したということです。現在、プラットフォーム上では1日あたり2300万回のスパム閲覧をブロックし、毎日約2万5000件の新たなスパム投稿やコメントを検知しているとしています。AIによって生み出された問題に対し、プラットフォーム側もAI技術を用いて対抗せざるを得ない状況となっています。
SNS各社は長年、自動化されたスパム削減ツールを構築してきましたが、レディットは今回のアップデートにより検知率が向上したとしています。同社は公式ブログの中で、「古いシステムでは見逃されていた、非常に巧妙で組織的な偽装行為や人為的な盛り上がりを検知するために、大規模言語モデルを活用している」と説明しています。この結果、今年1月から3月までの期間において、ユーザーがスパムを目にする割合を前の3か月間と比較して20％削減したということです。
AIが生成したコンテンツへの対応をめぐっては、ユーチューブ（YouTube）やメタ（Meta）、インスタグラム（Instagram）などのプラットフォームが、AI生成であることを明記することを条件に投稿を許可する方針をとっています。また、ティックトック（TikTok）は、ユーザー自身が表示されるAI生成コンテンツの量を調整できる機能を導入するとしています。
プラットフォーム側がAI生成コンテンツをより迅速に検知できるようになれば、ヘイトスピーチなどの規約違反コンテンツを早期に特定できる可能性が高まります。一方で、専門家は、最も効果的な結果を得るためには、AIによるコンテンツ監視と人間による監視を組み合わせる必要があると指摘しています。