Analys Att ta itu med AI-desinformation är viktigare än någonsin för teknikföretag i år när de står för det kommande presidentvalet i USA.
Att bekämpa falsk information och deepfakes har dock bara blivit svårare med tanke på att verktygen för att generera syntetiskt innehåll är mer allmänt tillgängliga än någonsin tidigare.
OpenAI:s ChatGPT har blivit alltmer kapabel sedan den släpptes först i november 2022. Förra året uppgraderad dess GPT-4-system för att producera ljud och bilder ovanpå text. Nu har startupen släppt lös GPT Store, en plattform som är värd för specialbyggda ChatGPT-baserade bots som kan anta särskilda personligheter eller utföra specifika uppgifter.
"Vi arbetar fortfarande med att förstå hur effektiva våra verktyg kan vara för personlig övertalning"
På måndagen sa OpenAI att det var förbjudet att bygga GPT:er för politisk kampanj och lobbying, och att använda dess modeller för att driva alla chatbotar som utger sig för att vara riktiga människor, företag eller regeringar är ett missbruk av dess teknologi. Alla applikationer som blandar sig med demokratiska processer, som till exempel röstning, är också förbjudna.
"Vi förväntar oss och strävar efter att människor ska använda våra verktyg på ett säkert och ansvarsfullt sätt, och val är inte annorlunda." det stod. "Vi arbetar för att förutse och förhindra relevanta övergrepp – som vilseledande "deepfakes", skalade påverkansoperationer eller chatbotar som utger sig för att vara kandidater."
Att förtydliga reglerna är bra, men att efterleva dem är en annan sak. Det är svårt att övervaka GPT Store, och OpenAI förlitar sig på att användare rapporterar applikationer som strider mot dess policyer. Människor har redan brutit mot dess regler om att inte skapa GPT:er "dedikerade till att främja romantiskt sällskap eller utföra reglerade aktiviteter." Plattformen har gott om AI "flickvänner", och det finns många politiska chatbots också.
Vissa är skapade för att efterlikna politiker som Donald Trump, till exempel, även om de inte är övertygande imitationer, medan andra stöder vissa politiska ideologier. I ett samtal med "The Real Trump Bot" sa den till exempel att det var emot brevröstning. "Åh, kom inte ens igång med brevröstning. Det är som att de ber om bråk. Det är så öppet för övergrepp, det är otroligt.”
Går det emot OpenAI:s policyer? Kan det avskräcka någon från att skicka sin röst? "Vi arbetar fortfarande för att förstå hur effektiva våra verktyg kan vara för personlig övertalning," medgav OpenAI.
OpenAI har också vidtagit andra försiktighetsåtgärder. Säkerhetsräcken på plats för dess text-till-bild-modell DALL-E hindrar användare från att skapa bilder av politiker för att försöka förhindra djupförfalskningar. Men skyddsräckena tillåter redigering av bilder, vilket innebär att människor fortfarande kan manipulera fotografier av kandidater utan hjälp av en AI.
Utöver att förbjuda eller blockera innehåll, inkluderar de andra strategierna som företag använder för att bekämpa desinformation att rulla ut digitala vattenstämplar och att kräva att användarna är transparenta om AI-genererade bilder eller videor.
Microsoft är medlem i Coalition for Content Provenance and Authenticity (C2PA) och stöder initiativet Content Credentials. Det rullar ut en funktion som bäddar in en vattenstämpel för innehåll som genererats av Bing Image Creator, som innehåller metadata som beskriver hur bilden gjordes, när och av vem, som kan inspekteras för att bevisa dess oäkthet. OpenAI planerar att följa efter och implementera CP2As digitala referenser också. Men funktionen för vattenmärkning och metadata är inte idiotsäker. Informationen om en bilds härkomst kan dock endast ses i applikationer eller webbplatser som stöder formatet Content Credentials.
Användare kan ta bort informationen från en bild som genereras av Microsofts eller OpenAIs verktyg och öppna den i något som Google Chrome, till exempel, som inte stöder CP2A. Det skulle inte finnas någon metadata kopplad till deras bilder då, och de skulle vara fria att distribuera den versionen istället.
Googles YouTube-plattform har tagit ett annat tillvägagångssätt och kräver istället att kreatörer avslöjar om deras videor innehåller AI-genererade bilder, skildrar falska händelser eller om de innehåller människor som säger saker de inte har sagt. Under tiden, meta och Google har bett annonsörer att deklarera om deras annonser innehåller syntetiskt innehåll, oavsett om det är falska bilder, videor eller ljud.
Reglerna är strängare för politikerna. Flera stater, som Kalifornien, Texas, Michigan, Washington och Minnesota har passerat lagstiftning att förbjuda politiska kandidater från att spinna upp djupa förfalskningar för att påverka väljarna. Det finns dock ingen federal lag. Den federala valkommissionen har ännu inte beslutat om dess policy mot att "bedrägligt missvisa andra kandidater eller politiska partier" gäller för AI-genererat innehåll.
AI är fortfarande mestadels oreglerad, och de olika lagar som är tillämpliga runt om i världen täcker inte alla fall av politisk desinformation. Även om teknikföretag ökar ansträngningarna för att hindra användare från att generera AI-desinformation, är deras metoder inte perfekta och användare hittar ofta sätt att komma runt sina säkerhetsåtgärder. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- : har
- :är
- :inte
- $UPP
- 2022
- 7
- a
- Om Oss
- missbruk
- tillgänglig
- aktiviteter
- medgav
- anta
- annonser
- annonsörer
- mot
- AI
- Syftet
- Alla
- tillåter
- redan
- också
- Även
- an
- och
- Annan
- förutse
- vilken som helst
- tillämplig
- tillämpningar
- applicerar
- tillvägagångssätt
- ÄR
- runt
- AS
- be
- associerad
- audio
- äktheten
- förbjudits
- BE
- blir
- innan
- bing
- blockering
- Bot
- botar
- Brutet
- Byggnad
- företag
- men
- by
- kalifornien
- kampanjer
- KAN
- kandidater
- kapabel
- bära
- vissa
- chatbots
- ChatGPT
- krom
- CO
- koalition
- bekämpa
- provision
- Företag
- innehålla
- innehåll
- Konversation
- kunde
- täcka
- tillverkad
- Skapa
- skaparen
- skaparna
- referenser
- avgörande
- bromsa
- Specialbyggda
- dalls
- beslutar
- dedicerad
- deepfakes
- demokratiska
- beskriver
- olika
- svårt
- digital
- Avslöja
- desinformation
- avråda
- distribuera
- do
- doesn
- donation
- donald
- Donald Trump
- Effektiv
- ansträngningar
- Val
- Val
- driva
- Även
- händelser
- NÅGONSIN
- exempel
- förvänta
- fejka
- falsk
- Leverans
- Federal
- hitta
- Förnamn
- följer
- För
- format
- främja
- Fri
- från
- genereras
- generera
- skaffa sig
- ges
- Go
- god
- Google Chrome
- Regeringar
- vuxen
- Har
- hamn
- hjälpa
- värd
- Hur ser din drömresa ut
- Men
- HTTPS
- Enormt
- ideologier
- if
- bild
- bilder
- genomföra
- med Esport
- in
- innefattar
- alltmer
- påverka
- informationen
- Initiativ
- istället
- isn
- IT
- DESS
- jpg
- etikett
- Efternamn
- Förra året
- Lag
- Lagar
- tycka om
- lobbyverksamhet
- gjord
- utskick
- många
- Materia
- me
- betyder
- Samtidigt
- åtgärder
- medlem
- metadata
- metoder
- Michigan
- Microsoft
- kanske
- vilseledande
- modell
- modeller
- Måndag
- mer
- för det mesta
- multipel
- Nej
- November
- nu
- of
- Ofta
- oh
- on
- endast
- öppet
- OpenAI
- Verksamhet
- or
- Övriga
- Övrigt
- vår
- ut
- särskilt
- parter
- Godkänd
- Personer
- perfekt
- utför
- Personligheter
- personlig
- Fotografierna
- Plats
- planering
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- Massor
- Polisen
- Strategier
- policy
- politiska
- politiska partier
- Politiker
- kraft
- president-
- presidentval
- förhindra
- processer
- producera
- förbjuden
- Bevisa
- härkomst
- rampning
- RE
- verklig
- reglerad
- frigörs
- relevanta
- förlita
- rapport
- ansvarsfullt
- Rullande
- regler
- s
- på ett säkert sätt
- Säkerhet
- Nämnda
- säger
- sett
- eftersom
- So
- någon
- något
- specifik
- igång
- start
- Stater
- Fortfarande
- lagra
- strategier
- striktare
- sådana
- följer
- stödja
- Stödjande
- syntetisk
- system
- tackling
- tagen
- tar
- uppgifter
- tech
- Tech företag
- Teknologi
- texas
- text
- än
- den där
- Smakämnen
- den information
- världen
- deras
- Dem
- sedan
- Där.
- de
- saker
- detta
- i år
- fastän?
- till
- alltför
- verktyg
- topp
- transparent
- problem
- trumf
- prova
- förstå
- avfyrade
- kommande
- us
- användning
- användare
- med hjälp av
- olika
- version
- Video
- Rösta
- väljare
- Röstning
- var
- washington
- vattenmärke
- vattenmärkning
- vattenmärken
- sätt
- we
- webbsidor
- VÄL
- när
- om
- som
- medan
- brett
- med
- utan
- Arbete
- arbetssätt
- världen
- skulle
- år
- ännu
- Youtube
- zephyrnet