L'odio al tempo dei social: l'intelligenza artificiale per moderare i commenti social



  • Il 55,0% degli utenti europei ha commentato una news online nell'ultimo mese e il 77,9% ha letto diversi commenti nello stesso lasso di tempo.

  • Secondo GFK, gli americani che lasciano commenti alle notizie, che leggono i commenti alle notizie e che non fanno nessuna delle due hanno un profilo socio-demografico distinto. Chi commenta è per lo più maschio, ha un livello di istruzione più basso e reddito più basso rispetto a quelli che leggono i commenti.

  • I siti dei giornali locali e delle stazioni televisive, le app e le pagine dei social media sono destinazioni popolari sia per lasciare che per leggere i commenti.

  • Il 60,9% di chi commenta o di chi legge i commenti vorrebbero che i giornalisti rispondessero ai commenti entrando nel merito delle discussioni. Allo stesso modo, il 58,7% vorrebbe che persone esperte sull'argomento dell'articolo rispondessero ai commenti

Nonostante questi dati inequivocabili, frutto di una ricerca di GFK, la maggior parte dei giornali ignora i commenti sui social che spesso sono lasciati senza alcuna moderazione permettendo ad utenti con idee radicali di usare contenuti inappropriati, inaccettabili e pericolosi che vanno ad influenzare l'opinione degli altri lettori.


Negli ultimi anni, Facebook è sicuramente stata la piattaforma sulla quale i Giornali e la stessa Facebook, hanno avuto i maggiori problemi a gestire i commenti e i contenuti dei lettori. Un'analisi sui commenti delle news e/o sui post dei brand evidenzia che oltre il 20% dei commenti riguarda: ,

  • Commenti di minacce e bullismo

  • Utilizzo di bestemmie e parole volgari

  • Truffe commerciali e pubblicitarie

  • Spam che porta a minacce di malware

  • Informazioni fasulle/ notizie false/ articoli fuorvianti

  • Immagini non filtrate che contengono violenza, pornografia, contenuti che promuovono il razzismo e l'odio



Se da una parte i giornali e in generale i brand non possono fare a meno di condividere i propri contenuti sui social media, dall'altra parte l'aumento di commenti che andrebbero censurati e l'aumento del numero di piattaforme social sulle quali condividere i propri contenuti, rendono il lavoro di moderazione arduo.


Tipologie di moderazione dei commenti social


Pre-Moderazione - Questo tipo di moderazione impedisce ai commenti inappropriati di diffondersi online. Il commento dell'utente sarà sottoposto a revisione per determinare se è sicuro e appropriato

Anche se può passare del tempo prima che i post appaiano sulle piattaforme di social media, questo particolare processo di moderazione assicura che il contenuto non danneggi la reputazione del giornale e del brand



Post Moderazione - L'opposto della pre-moderazione, permette agli utenti di pubblicare o caricare i loro contenuti online in tempo reale, e poi filtrare i contenuti inappropriati una volta scoperto che tali commenti siano inappropriati.



Moderazione reattiva - Facendo clic sul "pulsante di segnalazione", i contenuti pericolosi, inappropriati vengono visti da un moderatore che può rimuoverli. E' considerata una forma più soggettiva di moderazione dei commenti in quanto più utenti potrebbero segnalare contenuti sui quali non sono d'accordo anche se questi sono appropriati.

























L'intelligenza artificiale a supporto della moderazione dei commenti sui social


Analizzare centinaia se non addirittura migliaia di commenti al giorno su decine di piattaforme social differenti è un'impresa impossibile senza il supporto di tool dedicati alla causa.


Uno dei compiti che l'intelligenza artificiale riesce a svolgere con risultati sorprendenti è la classificazione del testo su più categorie. L'algoritmi di AI è in grado di leggere migliaia di commenti al secondo, comprendendone il significato e inserendo il testo nella categoria corretta (e.g. commento di odio, commento volgare, commento ok, etc.) o assegnando ad ogni contenuto un punteggio che nel caso dei commenti indica il grado di "pericolosità" del contenuto.

Classificare i commenti in categorie e/o assegnare ad essi un punteggio di pericolosità, permette a chi deve effettuare la moderazione di:

  • concentrarsi in via prioritaria sui commenti maggiormente pericolosi e approvare tutti i commenti sotto una certo grado di pericolosità e/o in una determinata categoria

  • bloccare automaticamente tutti i commenti che superano un certo grado di pericolosità

L'approccio di Socialbeat


Socialbeat, oltre a condividere automaticamente i contenuti sui social media, è in grado di tracciare e aggregare, da più social media (Instagram, Facebook, Twitter, LinkedIn, Youtube, etc.) in un unica dashboard tutti i commenti che un giornale e/o un brand riceve sui contenuti da lui postati.



Tali commenti vengono poi sottoposti ad un algoritmo di "text classification" che sulla base del linguaggio e dei termini presenti, stabilisce il grado di pericolosità dei commenti e segnala sulla dashboard quelli che richiedono attenzione immediata.


Il giornalista o il social media manager possono così intervenire direttamente dalla dashboard di Socialbeat andando a bloccare i contenuti, bloccando l'utente dalla possibilità di lasciare futuri commenti.




E' possibile esternalizzare a Socialbeat tutta la moderazione dei contenuti. Infatti, Socialbeat può, avvalendosi dei propri collaboratori e della propria piattaforma di distribuzione task, andare a moderare i contenuti per conto del giornale e/o del brand, aggiungendo un layer di classificazione umana a quei commenti che sono più pericolosi così da andarli a rimuovere.


27 visualizzazioni0 commenti