Hur AI-innehåll ledde till nedgradering av tillförlitlighetsklassificering för CNET

Wikipedia nedgraderade CNET:s tillförlitlighetsbetyg efter att den tekniska publikationen, i drift i 30 år, använde AI för att generera nyheter som visade sig vara plagierade och fyllda med fel. 

CNET publicerade mer än 70 artiklar om finansiell rådgivning skrivna av artificiell intelligens mellan november 2022 och januari 2023. Artiklarna publicerades under rubriken "CNET Money Staff."

En granskning bekräftade att många av berättelserna innehöll faktafel, allvarliga utelämnanden och plagierat innehåll. CNET slutade köra AI-skrivna berättelser efter att nyheten kom i början av 2023, men skadan, enligt Wikipedia, var redan skedd.

Läs också: CNET stoppar AI efter att ha publicerat en serie dåliga artiklar 

Degraderar AI-drivet CNET

"CNET, som vanligtvis betraktas som en vanlig teknisk RS [pålitlig källa], har börjat experimentellt köra AI-genererade artiklar, som är fulla av fel," sa Wikipedias redaktör David Gerard, som rapporterade av Futurism.

"Än så länge har experimentet inte gått bra, som det inte borde. Jag har inte hittat några än, men någon av dessa artiklar som gör det till en Wikipedia-artikel måste tas bort.”

Gerard talade för att kickstarta en möte av Wikipedias redaktörer för att diskutera CNET:s AI-innehåll i januari 2023. Redaktörer för den know-it-all online-lexikon driver Wikipedia Reliable Sources eller Perennial Sources-forum, där de träffas för att avgöra om en nyhetskälla kan litas på och användas i citat.

Forumet har ett diagram som rangordnar nyhetskanaler efter deras tillförlitlighet. Efter många timmars debatt var redaktionen överens om att AI-driven versionen av CNET var inte pålitlig och degraderade innehåll från webbplatsen till "generellt opålitligt".

"Låt oss ta ett steg tillbaka och överväga vad vi har sett här," sa en annan Wikipedia-redaktör som går under namnet "Bloodofox".

"CNET genererade en massa innehåll med AI, listade en del av det som skrivet av människor (!), hävdade att det var redigerat och granskat av människor, och sedan, efter att ha blivit fångad, utfärdade några "korrigeringar" följt av attacker mot journalisterna som rapporterade om det”, tillade de.

Wikipedias fleråriga källor sida delar upp tillförlitlighetsklassificeringarna för CNET i tre tidsperioder: 1. Före oktober 2020, då CNET ansågs vara "allmänt tillförlitligt"; och 2 oktober 2020 till oktober 2022, där Wikipedia inte betygsatte webbplatsen efter dess $ 500 miljoner förvärv av Red Ventures.

Den tredje perioden sträcker sig från november 2022 till idag. Under denna period nedgraderade Wikipedia CNET till en "generellt opålitlig" källa efter att webbplatsen vände sig till AI "för att snabbt generera artiklar fulla av faktiska felaktigheter och affiliate-länkar."

Google hittar inga problem med AI

Enligt Futurism-rapporten började det gå neråt för CNET efter Red Ventures-förvärvet 2020. Wikipedia sa att ägarbytet ledde "till en försämring av redaktionella standarder" eftersom Red Ventures påstås ha prioriterat SEO framför kvalitet. Det var inte bara CNET som experimenterade i hemlighet med AI i stallet.

Wikipedias redaktörer pekade också på andra tillförlitlighetsproblem som involverade separata Red Ventures-ägda webbplatser, inklusive Healthline och Bankrate. De utbildningsfokuserade webbplatserna körde enligt uppgift innehåll som hade skrivits av AI utan avslöjande eller mänsklig tillsyn.

"Red Ventures har inte varit särskilt transparenta om något av detta - företaget skulle i bästa fall kunna beskrivas som bedrägligt", sa den anonyma Wikipedia-redaktören Bloodofox.

I ett uttalande om nedgraderingen av Wikipedia och AI-tillverkat innehåll hävdade CNET att det tillhandahåller "opartiska teknikfokuserade nyheter och råd."

"Vi har fått förtroende i nästan 30 år på grund av våra rigorösa redaktionella standarder och produktrecensioner", sa en talesperson till Futurism. "Det är viktigt att klargöra att CNET inte aktivt använder AI för att skapa nytt innehåll. Även om vi inte har några specifika planer på att starta om, skulle alla framtida initiativ följa vår offentliga AI-policy."

Wikipedia-beslutet lyfter fram de ihållande oron angående användningen av AI för att skapa artiklar i mediebranschen. Under tiden, Google har inga problem med AI-material, så länge det inte används för att spela sökalgoritmen.

Enligt Googles vägleda När det gäller AI-genererat innehåll säger företaget att det alltid har "trott på kraften hos AI för att förändra förmågan att leverera användbar information."

Google säger att deras rankningssystem fokuserar på kvaliteten på innehållet och inte hur det produceras, vare sig det är av människor eller AI. Den tittar på expertis, erfarenhet, auktoritativitet och pålitlighet.

Företaget noterar dock att användning av automatisering, inklusive AI, för att generera innehåll med det primära syftet att manipulera rankningen i sökresultat "är ett brott mot vår spampolicy."

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://metanews.com/how-ai-generated-content-led-to-a-reliability-rating-downgrade-for-cnet/