LOGIN
In Breve (TL;DR)
- Reddit usa sistemi basati sull'AI per bloccare spam, bot e account falsi prima che raggiungano le community, bloccando la diffusione di contenuti artificiali.
- La moderazione combina AI e controllo umano, riducendo i tempi di rimozione dei contenuti dannosi e limitando l'esposizione degli utenti.
Con gli strumenti di intelligenza artificiale attualmente sul mercato, produrre contenuti (anche falsi o ingannevoli) è diventato incredibilmente facile e alla portata di tutti.
Per questo motivo, sempre più social network stanno cercando di “difendere gli spazi di discussione genuini”, tra questi anche Reddit che di recente ha risposto alla crescita incontrata di contenuti spam, bot e account fake aggiornando i propri sistemi di sicurezza automatizzati con nuovi strumenti basati proprio sull’intelligenza artificiale.
In questo modo la piattaforma sta cercando preservare questo spazio basato su conversazioni ed esperienze reali, proteggendo gli utenti da quella ondata di contenuti spazzatura automatizzati ormai nota nel settore come "AI slop".
In che modo Reddit usa l’AI per riconoscere spam e account falsi
La vera novità della strategia di Reddit sta nella prevenzione e tutto quello che fino a poco tempo fa era un “lavoro di pulizia post-pubblicazione", grazie all’AI diventa un'azione che anticipa la condivisione di questi contenuti, intercettando le anomalie prima che vengano date in pasto alla community.
Questo approccio si articola su tre livelli, il primo permette ai sistemi di sicurezza di monitorare una serie di metadati e indicatori tecnici che si attivano nel momento esatto in cui viene avviata la creazione di un nuovo profilo, bloccando sul nascere gli account palesemente legati a bot o farm automatizzate.
Per scovare i bot di nuova generazione, quelli capaci di scrivere testi apparentemente umani, Reddit impiega dei Large Language Models avanzati che trovano schemi coordinati di marketing occulto, recensioni truccate o tentativi di creare hyper su un tema riuscendo a individuare argomenti che i vecchi filtri rigidi non riuscivano a rilevare.
Infine, se l'algoritmo rileva un comportamento ambiguo o sospetto, la piattaforma introduce un ulteriore filtro di sicurezza, richiedendo all'account una verifica esplicita della propria identità per poter continuare a pubblicare sulla piattaforma.
Perché moderare Reddit nell’era dell’AI è più difficile
Se da un lato l'automazione permette di arginare milioni di minacce quotidiane dall'altro, vista la complessità strutturale di Reddit, c’è comunque bisogno di una sinergia tra tecnologia e fattore umano.
Moderare una piattaforma simile nell'era dell'AI generativa, infatti, può essere considerata una sfida senza precedenti, proprio perché gli strumenti di attacco si evolvono alla stessa velocità di quelli difensivi.
Per questo motivo Reddit può contare anche su molti moderatori alcuni interni e altrettanti volontari che tengono d’occhio le singole community (i subreddits) e che rimangono il pilastro fondamentale della moderazione. A loro spetta il compito di interpretare il contesto, le sfumature culturali e i meme che l'intelligenza artificiale potrebbe fraintendere o censurare ingiustamente.
L'AI fa davvero la differenza nella velocità di intervento contro i contenuti d'odio, tossici o violenti. Per questo motivo la piattaforma ha implementato un'estensione del controllo automatico (disponibile su tutti i testi in lingua inglese), riuscendo a tagliare i tempi medi di rimozione da ore a meno di cinque secondidal momento della pubblicazione. Questo ha ridotto l'esposizione degli utenti a contenuti potenzialmente nocivi di oltre il 40%.
Con questa strategia, Reddit dimostra che nell'era dell'intelligenza artificiale, la sopravvivenza dell’idea di social network non dipenderà da quanta tecnologia si riuscirà a produrre, ma da come sarà utilizzata per proteggere i segnali di autentica interazione umana che, nonostante tutto, rimangono comunque il cuore dei rapporti digitali.
Per saperne di più: Cos'è Reddit e come funziona
Domande frequenti (FAQ)
-
In che modo Reddit utilizza l'AI per riconoscere spam e account falsi?Reddit utilizza l'AI per monitorare metadati e indicatori tecnici al momento della creazione di nuovi profili, impiega Large Language Models per individuare schemi di marketing occulto e introduce filtri di sicurezza in caso di comportamenti sospetti.
-
Qual è il ruolo dei moderatori su Reddit?I moderatori su Reddit sono fondamentali per interpretare il contesto, le sfumature culturali e i meme che l'IA potrebbe fraintendere, contribuendo alla moderazione delle singole community.
-
Qual è l'obiettivo di Reddit nell'utilizzare l'AI per la moderazione?Reddit utilizza l'AI per proteggere gli utenti da contenuti dannosi, preservando l'autenticità delle interazioni umane e garantendo un ambiente di discussione genuino e sicuro.
