Reddit ha rivelato la strategia adottata per far fronte all’enorme produzione di materiale generato dall’intelligenza artificiale (AI) sulla sua piattaforma: l’uso della tecnologia stessa. L’azienda ha indicato che le soluzioni automatizzate sono state decisive nel ridurre l’incidenza dello spam e della manipolazione dei voti.
Dati recenti rilasciati dal social network rivelano che ogni giorno viene bloccato un volume impressionante di oltre 23 milioni di visualizzazioni di spam, prima ancora che raggiunga gli utenti. Inoltre, ogni giorno vengono identificate circa 25.000 pubblicazioni di spam e l’esposizione a contenuti indesiderati è diminuita del 20% nei primi tre mesi di quest’anno.
Di più sul tema: Cos’è Discord, come funziona e quali crimini vengono commessi sulla piattaforma
L’impatto dei bot AI si estende anche ai voti, elemento cruciale per dare visibilità a post e commenti sulla piattaforma. Negli ultimi tre mesi il social network ha registrato la rimozione di circa 2 milioni di voti considerati artificiali al giorno.
L’intelligenza artificiale come strumento essenziale nella lotta alla tecnologia stessa
Può sembrare paradossale, ma l’intelligenza artificiale è diventata lo strumento principale di Reddit per combattere i contenuti prodotti dall’intelligenza artificiale. La piattaforma ha investito nello sviluppo di sistemi automatizzati, dotati di tecnologia avanzata, per identificare potenziali segnali di account spam e agire rapidamente. Questo scenario riflette una lotta più ampia affrontata da diverse piattaforme digitali contro il flusso di contenuti automatizzati, posizionando la strategia di Reddit come un potenziale modello per altri social network.
Dopo aver rilevato potenziali irregolarità, Reddit utilizza Large Language Models (LLM) per riconoscere modelli coordinati di falsi comportamenti. Questi modelli spesso sfuggono all’attenzione di altri sistemi di moderazione, ma sono cruciali affinché la piattaforma possa disattivare i profili fraudolenti.
Nella sua incessante battaglia, Reddit impiega i propri LLM per mappare ed eliminare le caratteristiche dei profili gestiti dall’intelligenza artificiale.
La spinta di Reddit contro i contenuti “slop” e la proliferazione dei bot
Reddit è impegnato da diversi anni in una dura lotta contro l’espansione dell’intelligenza artificiale generativa, riaffermando il suo impegno a essere uno spazio incentrato sull’interazione umana. Nelle prime fasi del successo di ChatGPT, la piattaforma ha posto restrizioni all’accesso per i LLM che desiderano raccogliere dati per la formazione, ma in seguito ha rivalutato e allentato queste linee guida.
All’inizio di quest’anno, Steve Huffman, CEO dell’azienda, ha annunciato l’implementazione di un nuovo sistema di verifica degli account. La misura mira a contenere il crescente volume di bot. Huffman ha sottolineato che, pur riconoscendo l’esistenza di “buoni robot”, l’obiettivo principale dell’azienda è eliminare lo spam e gli account progettati per simulare in modo ingannevole l’interazione umana.