AI-generert desinformasjon i valg i Bangladesh

Ved valget i Bangladesh i januar øker bekymringen ettersom AI-generert desinformasjon sprer seg over hele nasjonen, og skaper en politisk atmosfære. Dette er utfordringen med å regulere slikt innhold i mindre markeder, som teknologiselskaper som Google og Meta står overfor.

Bangladesh opplever sine virkninger med en befolkning på 170 millioner. Denne sørasiatiske nasjonen er klar for en politisk konkurranse preget av separasjon mellom statsministeren, Sheikh Hasina, og hennes opposisjonsrivaler fra Bangladesh Nationalist Party.

De siste månedene har pro-regjeringsnyhetskanaler og påvirkere i Bangladesh aktivt promotert AI-generert desinformasjon opprettet ved hjelp av verktøy som tilbys av AI-start-ups. Denne utviklingen er en påminnelse om hvordan AI kan manipulere velgere og provosere splittelse.

AI-desinformasjon i valget i Bangladesh

Sheikh Hasinas regjering har vært tiltalte å få opposisjonen til å tie, noe som førte til arrestasjon av ledere og aktivister. Kritikere hevder at disse handlingene utgjør et forsøk på å utstyre de kommende meningsmålingene i hennes favør, noe som får offentlig press fra USA for å sikre frie og rettferdige valg.

Et eksempel på AI-generert desinformasjon dukket opp på BD Politico. På dette nettbaserte nyhetsmediet presenterte et nyhetsanker ved navn "Edward" et studiosegment som anklaget amerikanske diplomater for å blande seg inn i valg i Bangladesh og oppfordre til politisk vold. Dette tilfellet er enda mer bekymringsfullt fordi det ble opprettet ved hjelp av HeyGen, en AI-videogenerator basert i Los Angeles. Det lar kunder lage klipp foran AI-avatarer for så lite som $24 i måneden.

[Innebygd innhold]

Globale bekymringer og tekniske plattformsvar

Søkelyset har intensivert på bruk av AI for å skape villedende eller falsk politisk innhold med økningen av kraftige verktøy som OpenAIs ChatGPT og AI-videogeneratorer. Tidligere i år brukte den amerikanske republikanske nasjonalkomiteen AI-genererte bilder i et angrep for å tegne en fremtid under president Joe Biden. På samme måte suspenderte YouTube flere kontoer i Venezuela for å bruke AI-genererte nyhetsankere for å spre desinformasjon som er gunstig for president Nicolás Maduros regime.

Det har teknologigigantene Google og Meta annonsert retningslinjer som krever at kampanjer avslører digitalt endrede politiske annonser. Imidlertid viser tilfellet Bangladesh ikke bare utnyttelsen av AI-verktøy, men også vanskeligheten med å kontrollere bruken i mindre markeder, ofte overskygget av amerikanske teknologiselskaper.

AKM Wahiduzzaman, en BNP-tjenestemann, avslørte at partiet hans hadde bedt Meta om å fjerne AI-generert desinformasjonsinnhold, men svarene har vært knappe.

Utfordringer med å identifisere desinformasjon

Å identifisere AI-generert desinformasjon byr på utfordringer på grunn av upålitelige AI-deteksjonsverktøy. Sabhanaz Rashid Diya, en grunnlegger av Tech Institute og en tidligere Meta-leder, understreket at hylleprodukter er ineffektive når det gjelder å identifisere ikke-engelskspråklig innhold. Dette understreker behovet for mer omfattende og språkagnostiske løsninger.

Dessuten er løsningene foreslått av teknologiske plattformer, som hovedsakelig fokuserer på regulere AI i politiske annonser, kan ha begrenset effektivitet i land som Bangladesh, der annonser spiller en mindre rolle i politisk kommunikasjon. Dette fremhever behovet for regionspesifikke strategier for å effektivt bekjempe AI-generert desinformasjon.

Utvidelsen av AI-generert desinformasjon er forårsaket av mangelen på regulatorisk tilsyn og håndhevelse av myndighetene.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://metanews.com/ai-generated-disinformation-in-bangladesh-elections/