Discord har deaktiveret mere end 500,000 konti på grund af børns sikkerhed

Udgivet på: November 3, 2022

Den sociale platform Discord sagde i sidste uge, at den deaktiverede 767,363 konti for overtrædelser af politikker mellem april og juni 2022.

Ifølge virksomhedens kvartalsvise sikkerhedsrapport udgjorde 69 % af alle de handicappede konti bekymring for børns sikkerhed.

Discord deaktiverede 532,498 konti og fjernede 15,163 servere af hensyn til børns sikkerhed, hvoraf de fleste blev markeret for at uploade misbrugende billeder eller videoer.

Konti og servere blev også straks rapporteret til National Center for Missing & Exploited Children (NCMEC).

"Discord udsender advarsler med det formål at forhindre fremtidige overtrædelser af vores retningslinjer for fællesskabet," forklarede virksomheden i sin indberette sidste uge. "For nogle problemer med høj skade, såsom voldelig ekstremisme eller materiale til seksuelt misbrug af børn (CSAM) - en underkategori af børns sikkerhed - udsender vi ikke advarsler, men deaktiverer snarere øjeblikkeligt kontoen og fjerner indholdet."

"I andet kvartal af 2022 rapporterede vi 21,529 konti til NCMEC, en stigning på 101% i rapporter, sammenlignet med første kvartal af 2022," tilføjede Discord. "21,425 af disse rapporter var medier (billeder eller videoer), hvoraf mange blev markeret gennem PhotoDNA - et værktøj, der bruger en delt industrihash-database med kendte CSAM. 104 rapporter om pleje eller fare for høj skade blev også leveret til NCMEC."

Virksomheden bemærkede også, at den deaktiverede over 27.5 millioner konti for spam eller spam-relaterede lovovertrædelser. Dette var et hop på 6.5 % i forhold til det tidligere analyserede kvartal.

De andre politikovertrædelser, der førte til kontofjernelser, omfatter:

• Afsendelse af udnyttende og uopfordret indhold eller deling af seksuelt eksplicit indhold af andre mennesker uden deres samtykke (147,249 konti og 2,326 servere blev fjernet).
• Chikane og mobning, herunder afsendelse af alvorlige negative kommentarer og suggestive eller åbenlyse trusler (13,779 konti og 598 servere blev deaktiveret).
• Ondsindet efterligning af enkeltpersoner eller organisationer (148 konti og 12 servere blev deaktiveret).
• Ulovlige eller farlige aktiviteter, herunder salg eller facilitering af salg af ulovlige varer eller tjenester (27,494 konti og 4,639 servere blev fjernet).
• Bekymringer om selvskade eller konti, der fremmer selvmord og selvskade (2,495 konti og 620 servere blev fjernet).