Reddit は、プラットフォーム上で人工知能 (AI) によって生成される素材の膨大な生産に対抗するために採用された戦略、つまりテクノロジー自体の使用を明らかにしました。同社は、スパムや投票操作の発生を減らすには自動化ソリューションが決定的であると述べました。
ソーシャル ネットワークが発表した最近のデータによると、毎日 2,300 万件を超える大量のスパムが、ユーザーに届く前にブロックされています。さらに、毎日約 25,000 件のスパム出版物が特定されており、望ましくないコンテンツへの露出は、今年の最初の 3 か月間で 20% 減少しました。
AI ボットの影響は、プラットフォーム上の投稿やコメントを可視化するための重要な要素である投票にも及びます。過去 3 か月間で、ソーシャル ネットワークは人工的とみなされる 1 日あたり約 200 万票の削除を記録しました。
テクノロジーそのものとの戦いにおいて不可欠なツールとしての人工知能
逆説的に聞こえるかもしれないが、人工知能は、AIが生成したコンテンツと戦うためのRedditの主要ツールとなっている。このプラットフォームは、スパムアカウントの潜在的な兆候を特定し、迅速に対処するために、高度なテクノロジーを備えた自動システムの開発に投資しました。このシナリオは、自動化されたコンテンツの洪水に対していくつかのデジタルプラットフォームが直面している広範な闘争を反映しており、Redditの戦略を他のソーシャルネットワークの潜在的なモデルとして位置付けています。
潜在的な不正行為を検出すると、Reddit は大規模言語モデル (LLM) を使用して、誤った動作の調整されたパターンを認識します。これらのパターンは他のモデレーション システムの認識を逃れることがよくありますが、プラットフォームが不正なプロファイルを非アクティブ化するためには非常に重要です。
絶え間ない戦いの中で、Reddit は独自の LLM を採用して、人工知能によって操作されるプロファイルの特徴をマッピングして排除します。
「ずさんな」コンテンツとボットの蔓延に対する Reddit の取り組み
Reddit は数年にわたり、生成 AI の拡大に対して厳しい戦いを続けており、人間の対話に焦点を当てたスペースであるというコミットメントを再確認しています。 ChatGPT の成功の初期段階では、プラットフォームはトレーニング用のデータを収集しようとする LLM のアクセスに制限を設けていましたが、後にこれらのガイドラインが再評価され、緩和されました。
今年の初め、同社のCEOであるスティーブ・ハフマン氏は、新しいアカウント認証システムの導入を発表した。この措置は、増え続けるボットを封じ込めることを目的としています。ハフマン氏は、「優れたボット」の存在は認識しているが、同社の主な焦点はスパムや、人間とのやり取りを偽ってシミュレートするように設計されたアカウントを排除することであると強調した。
