Hvordan AI-indhold førte til nedgradering af pålidelighedsvurdering til CNET

Wikipedia nedgraderede CNET's pålidelighedsvurdering, efter at den tekniske publikation, der var i drift i 30 år, brugte AI til at generere nyhedshistorier, der viste sig at være plagierede og fyldt med fejl. 

CNET offentliggjort mere end 70 artikler om finansiel rådgivning skrevet af kunstig intelligens mellem november 2022 og januar 2023. Artiklerne blev udgivet under byline 'CNET Money Staff'.

En revision bekræftede, at mange af historierne indeholdt faktuelle fejl, alvorlige udeladelser og plagieret indhold. CNET stoppet kører AI-skrevne historier, efter nyheden brød ud tidligt i 2023, men skaden var ifølge Wikipedia allerede sket.

Læs også: CNET suspenderer AI efter at have udgivet en række dårlige artikler 

Degraderer AI-drevet CNET

"CNET, der normalt betragtes som en almindelig teknisk RS [pålidelig kilde], er begyndt eksperimentelt at køre AI-genererede artikler, som er fyldt med fejl," sagde Wikipedia-redaktør David Gerard, som rapporteret af Futurisme.

”Indtil videre går eksperimentet ikke godt, som det ikke burde. Jeg har ikke fundet nogen endnu, men nogen af ​​disse artikler, der gør det til en Wikipedia-artikel, skal fjernes."

Gerard talte for at kickstarte en møde af Wikipedia-redaktører for at diskutere CNETs AI-indhold i januar 2023. Redaktører af know-it-all online-ordbogen opretholder Wikipedia Reliable Sources eller Perennial Sources-forum, hvor de mødes for at beslutte, om en nyhedskilde kan stoles på og bruges i citater.

Forummet har et diagram, der rangerer nyhedsmedier efter deres pålidelighed. Efter mange timers debat var redaktionen enige om, at den AI-drevet version af CNET var ikke troværdig og degraderet indhold fra webstedet til "generelt upålideligt."

"Lad os tage et skridt tilbage og overveje, hvad vi har været vidne til her," sagde en anden Wikipedia-redaktør, der går under navnet "Bloodofox".

"CNET genererede en masse indhold med AI, listede noget af det som skrevet af folk (!), hævdede, at det hele var redigeret og undersøgt af folk, og efter at være blevet fanget, udstedte han nogle 'rettelser' efterfulgt af angreb på journalisterne der rapporterede om det,” tilføjede de.

Wikipedias flerårige kilder side opdeler pålidelighedsvurderingerne for CNET i tre tidsperioder: 1. Før oktober 2020, hvor CNET blev betragtet som "generelt pålideligt"; og 2. oktober 2020 til oktober 2022, hvor Wikipedia ikke vurderede webstedet efter dets $ 500 millioner opkøb af Red Ventures.

Den tredje periode løber fra november 2022 til i dag. I denne periode nedgraderede Wikipedia CNET til en "generelt upålidelig" kilde, efter at webstedet vendte sig til AI "for hurtigt at generere artikler fyldt med faktuelle unøjagtigheder og affiliate links."

Google finder ingen problemer med AI

Ifølge Futurism-rapporten begyndte tingene at gå ned ad bakke for CNET efter Red Ventures-opkøbet i 2020. Wikipedia sagde, at ejerskabsændringen førte "til en forringelse af de redaktionelle standarder", fordi Red Ventures angiveligt prioriterede SEO over kvalitet. Det var ikke kun CNET, der i hemmelighed eksperimenterede med kunstig intelligens i stalden.

Wikipedias redaktører pegede også på andre pålidelighedsproblemer, der involverer separate Red Ventures-ejede websteder, herunder Healthline og Bankrate. De uddannelsesfokuserede websteder kørte efter sigende indhold, der var blevet skrevet af AI uden afsløring eller menneskeligt tilsyn.

"Red Ventures har ikke været fjernt gennemsigtig omkring noget af dette - virksomheden kunne i bedste fald beskrives som bedragerisk," sagde den anonyme Wikipedia-redaktør Bloodofox.

I en erklæring, der adresserede Wikipedia-nedgraderingen og AI-fremstillet indhold, hævdede CNET, at det giver "uvildige teknologi-fokuserede nyheder og råd."

"Vi har været tillid til i næsten 30 år på grund af vores strenge redaktionelle og produktanmeldelsesstandarder," sagde en talsmand til Futurism. "Det er vigtigt at præcisere, at CNET ikke aktivt bruger AI til at skabe nyt indhold. Selvom vi ikke har nogen specifikke planer om at genstarte, vil eventuelle fremtidige initiativer følge vores offentlige AI-politik."

Wikipedia-beslutningen fremhæver de vedvarende bekymringer vedrørende brugen af ​​kunstig intelligens til at skabe artikler i medieindustrien. I mellemtiden Google har intet problem med AI-materiale, så længe det ikke bruges til at spille søgealgoritmen.

Ifølge Googles vejledning på AI-genereret indhold siger firmaet, at det altid har "troet på AI's kraft til at transformere evnen til at levere nyttig information."

Google siger, at deres rangordningssystemer fokuserer på kvaliteten af ​​indhold og ikke på, hvordan det er produceret, uanset om det er af mennesker eller AI. Det ser på ekspertise, erfaring, autoritativitet og troværdighed.

Virksomheden bemærker dog, at brug af automatisering, inklusive AI, til at generere indhold med det primære formål at manipulere rangering i søgeresultater 'er en overtrædelse af vores spampolitikker.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
• PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
• PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
• PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
• Kilde: https://metanews.com/how-ai-generated-content-led-to-a-reliability-rating-downgrade-for-cnet/