Discord ha disabilitato più di 500,000 account a causa di problemi di sicurezza dei bambini

Pubblicato il: 3 Novembre 2022

La piattaforma social Discord ha dichiarato la scorsa settimana di aver disabilitato 767,363 account per violazioni delle norme tra aprile e giugno 2022.

Secondo il rapporto trimestrale sulla sicurezza dell'azienda, il 69% di tutti gli account per disabili poneva problemi di sicurezza dei bambini.

Discord ha disabilitato 532,498 account e rimosso 15,163 server per motivi di sicurezza dei bambini, la maggior parte dei quali è stata segnalata per aver caricato immagini o video offensivi.

Gli account e i server sono stati immediatamente segnalati anche al National Center for Missing & Exploited Children (NCMEC).

"Discord emette avvisi con l'obiettivo di prevenire future violazioni delle nostre Linee guida della community", ha spiegato la società nel suo rapporto la settimana scorsa. "Per alcuni problemi ad alto danno come Violent Extremism o Child Sexual Abuse Material (CSAM) - una sottocategoria di Child Safety - non emettiamo avvisi, ma disattiviamo immediatamente l'account e rimuoviamo il contenuto".

"Nel secondo trimestre del 2022, abbiamo segnalato 21,529 account a NCMEC, un aumento del 101% delle segnalazioni effettuate rispetto al primo trimestre del 2022", ha aggiunto Discord. “21,425 di quei rapporti erano media (immagini o video), di cui molti sono stati segnalati tramite PhotoDNA, uno strumento che utilizza un database hash del settore condiviso di CSAM noto. Anche 104 segnalazioni di toelettatura o pericolo ad alto rischio sono state consegnate a NCMEC”.

La società ha anche notato di aver disabilitato oltre 27.5 milioni di account per spam o reati correlati allo spam. Si tratta di un aumento del 6.5% rispetto al trimestre analizzato in precedenza.

Le altre violazioni delle norme che hanno portato alla rimozione dell'account includono:

• Invio di contenuti sfruttatori e non richiesti o condivisione di contenuti sessualmente espliciti di altre persone senza il loro consenso (147,249 account e 2,326 server sono stati rimossi).
• Molestie e bullismo, incluso l'invio di gravi commenti negativi e minacce allusive o palesi (13,779 account e 598 server sono stati disabilitati).
• Furto d'identità dannoso di individui o organizzazioni (148 account e 12 server sono stati disabilitati).
• Attività illegali o pericolose, inclusa la vendita o l'agevolazione della vendita di beni o servizi illegali (27,494 account e 4,639 server sono stati rimossi).
• Problemi di autolesionismo o account che promuovono il suicidio e l'autolesionismo (2,495 account e 620 server sono stati rimossi).