Artificiell intelligens var återigen det heta diskussionsämnet vid det årliga webbtoppmötet i Lissabon, Portugal. Under evenemangets avslutningsdag uttryckte whistlebloweren och aktivisten Chelsea Manning oro över utvecklingen av artificiell intelligens och konflikten mellan människor och teknik.
"Vi lever i den här eran där vi är omgivna av teknik," sa Manning. "Jag har stött på många fall av den här sammandrabbningen mellan de människor vi är och tekniken, och hur tekniken formar hur vi interagerar med varandra och hur institutioner är en del av det."
Manning säger att hennes liv har formats av exponering för den digitala sfären, inklusive att vara hemlös, gå med i militären och gå i fängelse för att ha läckt militära dokument till WikiLeaks 2010.
"Jag låter det styra hur jag integrerar, ser på teknik och vill bygga en större, bättre framtid," sa Manning.
Manning ifrågasatte motiven bakom den snabba utvecklingen av AI-teknik, vem tekniken i slutändan kommer att gynna, och om satsningen på artificiell intelligens kommer att commoditisera vardagen.
"Glömmer vi helt enkelt det mänskliga elementet och förvandlar varje enskild interaktion som vi har på en daglig basis till en handelsvara?" sa Manning. "Den här produkten är att vi gör något så enkelt som att svepa på en app eller klicka på en söt liten hjärtikon."
Manning kallade artificiell intelligens och stora språkmodeller för dagens modeord och pekade på den stora mängd data som dessa modeller tränas med, och citerade Wikipedia, läroböcker, videor och bilder som exempel.
Manning påpekade att, till skillnad från filer på en server, är dessa data inbäddade i modellens vikter och balanser och kan inte bara raderas, vilket står i kontrast till EU:s allmänna dataskyddsförordning (GDPR) och integritetsrättigheter, där individer kan begära radering av data.
"Jag tror att ansvaret ligger på oss, som teknologer, att utveckla verktyg som tar hänsyn till det faktum att människor måste ha ett sken av integritet och att kommunikation inte bör vara en resurs som ska utvinnas och förädlas." sa Manning. "Jag vill inte leva i en värld där relationerna vi har är ett numeriskt värde."
Med stora språkmodeller, varnade Manning, när en persons personliga eller privata information har införlivats, blir den en permanent del av modellen, vilket gör borttagning omöjlig.
År 2021 gick Manning till det schweiziska företaget Nym Technologies som säkerhetskonsult och integritetsförespråkare. Nym Technologies lanserade sitt integritetsfokuserade projekt nym, en decentraliserad identitet plattform, 2020 på Cosmos blockchain.
"Jag tror att mitt fokus mer brett och generellt ligger på vikten av att ha en viss sken av integritet - genom kryptering eller genom de tekniska, tekniska medel som vi har - och att kunna använda det intuitivt," sa Manning. "Det borde inte vara svårt, och det borde inte vara svårt att använda."
Manning lyfte också fram ökningen och ökningen av AI-genererade deepfakes.
"Det som har fångat min uppmärksamhet under de senaste sex månaderna har inte varit det faktum att människor använder djupa fejk i offentlig diskurs och diskussion, utan det faktum att de kan göras och det faktum att de finns och används för att tvivla. på faktisk verifierad information, säger Manning. "Jag tror att denna trend fortsätter att få människor att ifrågasätta sin egen verklighet mer och mer."
I takt med att deepfakes har blivit mer avancerade oroar sig beslutsfattare för att de kan påverka kommande val eller bränsle hatar uppkopplad. En lösning Manning föreslog var att använda kryptografi för att verifiera information.
Manning berättade tidigare Avkryptera att Bitcoin tilltalade hennes passion för kryptografi, säkra information och bygga decentraliserade kryptografiskt baserade nätverk.
"Jag vet att det är attraktivt att kunna säga, jag kan välja min egen verklighet, jag kan välja vad jag gillar," sa Manning. "Men verkligheten är att den verkliga fysiska materiella världen kommer att möta det någon gång. Och jag tror att när det gäller klimatet i synnerhet kommer vi inte att kunna låtsas bort det.
Redigerad av Ryan Ozawa.
Håll dig uppdaterad om kryptonyheter, få dagliga uppdateringar i din inkorg.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://decrypt.co/206449/chelsea-manning-web-summit-ai-technology-privacy