Analyse Het aanpakken van AI-desinformatie is dit jaar belangrijker dan ooit voor technologiebedrijven, terwijl ze zich schrap zetten voor de komende Amerikaanse presidentsverkiezingen.
Het bestrijden van valse informatie en deepfakes is echter alleen maar moeilijker geworden omdat de tools voor het genereren van synthetische inhoud breder toegankelijk zijn dan ooit tevoren.
OpenAI's ChatGPT is steeds capabeler geworden sinds de eerste release in november 2022. Vorig jaar werd het opgewaardeerd zijn GPT-4-systeem om audio en afbeeldingen bovenop tekst te produceren. Nu heeft de startup de GPT-winkel, een platform dat op maat gemaakte ChatGPT-gebaseerde bots host die bepaalde persoonlijkheden kunnen aannemen of specifieke taken kunnen uitvoeren.
'We zijn nog steeds bezig om te begrijpen hoe effectief onze tools kunnen zijn voor gepersonaliseerde overtuiging'
Maandag zei OpenAI dat het bouwen van GPT's voor politieke campagnes en lobbyen verboden was, en dat het gebruik van zijn modellen om chatbots aan te drijven die zich voordoen als echte mensen, bedrijven of overheden een misbruik van zijn technologie is. Ook alle toepassingen die zich bemoeien met democratische processen, zoals bijvoorbeeld het stemmen, zijn verboden.
โWe verwachten en streven ernaar dat mensen onze hulpmiddelen veilig en verantwoord gebruiken, en bij verkiezingen is dat niet andersโ, het zei. โWe werken eraan om relevant misbruik te anticiperen en te voorkomen, zoals misleidende โdeepfakesโ, grootschalige beรฏnvloedingsoperaties of chatbots die zich voordoen als kandidaten.โ
Het verduidelijken van de regels is leuk en aardig, maar het handhaven ervan is een andere zaak. Het is moeilijk om toezicht te houden op de GPT Store, en OpenAI vertrouwt erop dat gebruikers applicaties melden die in strijd zijn met het beleid. Mensen hebben de regels over het niet creรซren van GPTโs โgewijd aan het bevorderen van romantisch gezelschap of het uitvoeren van gereguleerde activiteitenโ al overtreden. Het platform heeft veel AI-โvriendinnenโ en er zijn ook veel politieke chatbots.
Sommige zijn gemaakt om politici als Donald Trump na te bootsen, ook al zijn het geen overtuigende nabootsingen, terwijl andere bepaalde politieke ideologieรซn ondersteunen. In een gesprek met โThe Real Trump Botโ zei het bijvoorbeeld dat het tegen stemmen per post was. 'O, laat me niet eens beginnen over stemmen per post. Het is alsof ze om problemen vragen. Het staat zo open voor misbruik, het is ongelooflijk.โ
Is dat in strijd met het beleid van OpenAI? Zou dit iemand ervan kunnen weerhouden zijn stem uit te brengen? โWe werken er nog steeds aan om te begrijpen hoe effectief onze tools kunnen zijn voor gepersonaliseerde overtuigingโ, gaf OpenAI toe.
OpenAI heeft ook andere voorzorgsmaatregelen genomen. Veiligheidsbeugels voor het tekst-naar-beeldmodel DALL-E voorkomen dat gebruikers afbeeldingen van politici genereren om deepfakes te voorkomen. Maar de vangrails maken het bewerken van afbeeldingen mogelijk, wat betekent dat mensen nog steeds foto's van kandidaten kunnen manipuleren zonder de hulp van een AI.
Naast het verbieden of blokkeren van inhoud, omvatten de andere strategieรซn die bedrijven gebruiken om desinformatie te bestrijden onder meer het uitrollen van digitale watermerken en het eisen van gebruikers om transparant te zijn over door AI gegenereerde afbeeldingen of videoโs.
Microsoft is lid van de Coalition for Content Provenance and Authenticity (C2PA) en ondersteunt het Content Credentials-initiatief. Het introduceert een functie die een watermerk insluit voor inhoud die is gegenereerd door de Bing Image Creator, met metagegevens die beschrijven hoe de afbeelding is gemaakt, wanneer en door wie, die kunnen worden geรฏnspecteerd om de onauthenticiteit ervan te bewijzen. OpenAI is van plan dit voorbeeld te volgen en de CP2A's digitale referenties ook. Maar de functie voor watermerken en metadata is niet onfeilbaar. De informatie over de herkomst van een afbeelding is echter alleen zichtbaar in applicaties of websites die het Content Credentials-formaat ondersteunen.
Gebruikers kunnen de informatie verwijderen uit een afbeelding die is gegenereerd door de tools van Microsoft of OpenAI en deze openen in bijvoorbeeld Google Chrome, dat CP2A niet ondersteunt. Er zouden dan geen metagegevens aan hun afbeeldingen zijn gekoppeld, en in plaats daarvan zouden ze die versie vrij kunnen verspreiden.
Het YouTube-platform van Google heeft een andere aanpak gekozen en eist in plaats daarvan van makers dat ze bekendmaken of hun video's door AI gegenereerde beelden bevatten, nepgebeurtenissen weergeven of mensen bevatten die dingen zeggen die ze niet hebben gezegd. In de tussentijd, meta en Kopen Google Reviews hebben adverteerders gevraagd aan te geven of hun advertenties synthetische inhoud bevatten, of het nu gaat om nepafbeeldingen, video's of audio.
Voor politici zijn de regels strenger. Meerdere staten, zoals Californiรซ, Texas, Michigan, Washington en Minnesota zijn gepasseerd wetgeving het verbieden van politieke kandidaten om deepfakes te bedenken om kiezers te beรฏnvloeden. Er bestaat echter geen federale wet. De Federale Verkiezingscommissie moet nog beslissen of haar beleid tegen het โop frauduleuze wijze verkeerd voorstellen van andere kandidaten of politieke partijenโ van toepassing is op door AI gegenereerde inhoud.
AI is nog steeds grotendeels ongereguleerd en de verschillende wetten die over de hele wereld van toepassing zijn, dekken niet alle gevallen van politieke desinformatie. Hoewel technologiebedrijven hun inspanningen opvoeren om te voorkomen dat gebruikers AI-desinformatie genereren, zijn hun methoden niet perfect en vinden gebruikers vaak manieren om hun veiligheidsmaatregelen te omzeilen. ยฎ
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- : heeft
- :is
- :niet
- $UP
- 2022
- 7
- a
- Over
- misbruik
- beschikbaar
- activiteiten
- toegegeven
- adopteren
- advertenties
- adverteerders
- tegen
- AI
- streven
- Alles
- toelaten
- al
- ook
- Hoewel
- an
- en
- Nog een
- anticiperen
- elke
- toepasselijk
- toepassingen
- geldt
- nadering
- ZIJN
- rond
- AS
- vragen
- geassocieerd
- audio
- echtheid
- verboden
- BE
- worden
- vaardigheden
- Bing
- blokkeren
- Bot
- bots
- Kapot
- Gebouw
- ondernemingen
- maar
- by
- Californiรซ
- campagne voeren
- CAN
- kandidaten
- in staat
- dragen
- zeker
- chatbots
- ChatGPT
- Chrome
- CO
- coalitie
- tegen te gaan
- commissie
- Bedrijven
- bevatten
- content
- Gesprek
- kon
- deksel
- bewerkte
- Wij creรซren
- schepper
- scheppers
- Geloofsbrieven
- cruciaal
- beteugelen
- Custom-built
- van dall
- beslissen
- toegewijd aan
- deepfakes
- democratisch
- beschrijven
- anders
- moeilijk
- digitaal
- Openbaren
- disinformatie
- afraden
- verdelen
- do
- doesn
- don
- donald
- Donald Trump
- effectief
- inspanningen
- Verkiezing
- verkiezingen
- afdwingen
- Zelfs
- EVENTS
- OOIT
- voorbeeld
- verwachten
- nep
- vals
- Kenmerk
- Federaal
- VIND DE PLEK DIE PERFECT VOOR JOU IS
- Voornaam*
- volgen
- Voor
- formaat
- het bevorderen van
- Gratis
- oppompen van
- gegenereerde
- het genereren van
- krijgen
- gegeven
- Go
- goed
- Kopen Google Reviews
- Google Chrome
- overheden
- gegroeid
- Hebben
- veilige haven
- hulp
- Hosting
- Hoe
- Echter
- HTTPS
- Enorm
- ideologieรซn
- if
- beeld
- afbeeldingen
- uitvoeren
- belangrijk
- in
- omvatten
- in toenemende mate
- beรฏnvloeden
- informatie
- initiatief
- verkrijgen in plaats daarvan
- isn
- IT
- HAAR
- jpg
- label
- Achternaam*
- Afgelopen jaar
- Wet
- Wetten
- als
- lobbyen
- gemaakt
- mailing
- veel
- Materie
- me
- betekenis
- Ondertussen
- maatregelen
- lid
- Metadata
- methoden
- Michigan
- Microsoft
- macht
- misleidend
- model
- modellen
- maandag
- meer
- meestal
- meervoudig
- geen
- November
- nu
- of
- vaak
- oh
- on
- Slechts
- open
- OpenAI
- Operations
- or
- Overige
- Overig
- onze
- uit
- bijzonder
- partijen
- voorbij
- Mensen
- uitvoerend
- Persoonlijkheden
- Gepersonaliseerde
- foto's
- plaats
- planning
- platform
- Plato
- Plato gegevensintelligentie
- PlatoData
- Overvloed
- Politie
- beleidsmaatregelen door te lezen.
- beleidsmaatregelen
- politiek
- politieke partijen
- Politici
- energie
- presidents-
- presidentiรซle verkiezingen
- voorkomen
- processen
- produceren
- verboden
- Bewijzen
- herkomst
- rampen
- RE
- vast
- gereguleerd
- uitgebracht
- relevante
- te vertrouwen
- verslag
- verantwoorde
- Rollen
- reglement
- s
- veilig
- Veiligheid
- Zei
- gezegde
- gezien
- sinds
- So
- Iemand
- iets
- specifiek
- gestart
- startup
- Staten
- Still
- shop
- strategieรซn
- striktere
- dergelijk
- Pak
- ondersteuning
- Ondersteuning
- synthetisch
- system
- aanpakken
- ingenomen
- het nemen
- taken
- tech
- tech bedrijven
- Technologie
- Texas
- tekst
- neem contact
- dat
- De
- de informatie
- de wereld
- hun
- Ze
- harte
- Er.
- ze
- spullen
- dit
- dit jaar
- toch?
- naar
- ook
- tools
- top
- transparant
- moeite
- troef
- proberen
- begrijpen
- ontketende
- komende
- us
- .
- gebruikers
- gebruik
- divers
- versie
- Video's
- Stemmen
- kiezers
- Stemming
- was
- Washington
- watermerk
- watermerken
- watermerken
- manieren
- we
- websites
- GOED
- wanneer
- of
- welke
- en
- wijd
- Met
- zonder
- Mijn werk
- werkzaam
- wereld
- zou
- jaar
- nog
- youtube
- zephyrnet