Reddit usa l’AI per bloccare lo spam generato dall’AI

Reddit, la popolare piattaforma sociale con sede a San Francisco, ha annunciato l'utilizzo di sistemi basati sull'intelligenza artificiale per combattere il problema crescente dello spam, molti dei quali generati anch’essi da algoritmi. Con lo sviluppo di tecnologie come i modelli di linguaggio generativo (LLM), il numero di contenuti di bassa qualità è aumentato esponenzialmente. Per affrontare questa situazione, Reddit ha adottato una strategia in grado di sfruttare la stessa tecnologia che genera lo spam, per rilevarlo e bloccarlo prima della sua pubblicazione.

Più di 25.000 contenuti spam intercettati al giorno

Secondo le informazioni pubblicate da Reddit, i sistemi automatizzati dell'azienda riescono ad intercettare più di 25.000 post e commenti spam al giorno. Nei tre mesi precedenti l’implementazione di nuove tecnologie, questa capacità ha portato al blocco di oltre 23 milioni di visualizzazioni di contenuti considerati spam e alla revoca di quasi 2 milioni di voti non autentici.

I risultati ottenuti con questa strategia hanno prodotto un calo nell’esposizione degli utenti a tali contenuti: tra gennaio e marzo 2026, l’esposizione dello spam si è ridotta di circa il 20% rispetto ai primi tre mesi del 2025. Reddit ha inoltre chiarito che l’analisi inizia già nel momento in cui un account viene creato, al fine di rilevare attività sospette e bloccare gli utenti pericolosi ancora prima che abbiano la possibilità di pubblicare.

Analisi avanzata per identificare schemi complessi

I nuovi strumenti basati sull’intelligenza artificiale di Reddit riescono a individuare schemi di comportamento coordinati e sofisticati di utenti con intenti malintenzionati, qualcosa che i sistemi precedenti non erano in grado di rilevare. Questi modelli, in particolare i grandi modelli linguistici (LLM), permettono di analizzare in tempo reale comportamenti che potrebbero facilmente sfuggire agli utenti e ai moderatori volontari.

Inoltre, Reddit ha ribadito la propria attenzione verso la pubblicazione di contenuti vietati, come l’incitamento all’odio, le molestie o le minacce. I nuovi sistemi automatizzati riducono drasticamente il tempo necessario per intervenire dopo la pubblicazione di contenuti che violano le linee guida della piattaforma: oggi si passa da meno di 5 secondi tra la rilevazione e l’applicazione delle misure di moderazione.

Reddit ha inoltre chiarito che l’uso di questi strumenti si basa su un sistema a tre livelli:

• I moderatori della piattaforma professionale, che sono esperti pagati;
• i moderatori delle community, che operano volontariamente;
• i utenti, che influenzano la popolarità dei contenuti attraverso upvote e downvote.

Questo modello ibrido permette di mantenere l’equilibrio tra una moderazione rigorosa e la libertà di espressione degli utenti.

Problemi etici e futuri sviluppi

Nonostante i risultati positivi, Reddit sottolinea che la moderazione automatica non è perfetta. I falsi positivi (ossia la rimozione di contenuti legittimi) e i casi in cui lo spam sfugge ai controlli sono ancora presenti, ma entro la riduzione del 40% di questi casi rispetto al periodo precedente all’implementazione dell’AI.

L’azienda riconosce che l’utilizzo dell’intelligenza artificiale per l’analisi e la moderazione dei contenuti solleva importanti questioni etiche, soprattutto in termini di privacy e libertà di espressione. Tuttavia, gli sviluppatori continuano a perfezionare gli algoritmi per ridurre al minimo gli errori e per garantire una moderazione più equa e trasparente.

Reddit si posiziona quindi al vertice di un dibattito sempre più acceso sull’uso dell’AI nella gestione dei contenuti online, sfruttando la stessa tecnologia per limitarne i danni. Il futuro della moderazione su Reddit dipenderà sempre di più dalla capacità di bilanciare innovazione tecnologica, trasparenza e rispetto per la comunità che la fa funzionare.