Kunstig intelligens var igjen det hete diskusjonstemaet på det årlige nettmøtet i Lisboa, Portugal. Under arrangementets avslutningsdag uttrykte varsleren og aktivisten Chelsea Manning bekymring for utviklingen av kunstig intelligens og sammenstøtet mellom mennesker og teknologi.
"Vi lever i denne epoken hvor vi er omgitt av teknologi," sa Manning. "Jeg har møtt mange tilfeller av dette sammenstøtet mellom menneskene vi er og teknologien, og måten teknologien former hvordan vi samhandler med hverandre, og hvordan institusjoner er en del av det."
Manning sier at livet hennes har blitt formet av eksponering for det digitale riket, inkludert å være hjemløs, bli med i militæret og gå i fengsel for å lekke militære dokumenter til WikiLeaks i 2010.
"Jeg lar det drive hvordan jeg integrerer, ser på teknologi og ønsker å bygge en større og bedre fremtid," sa Manning.
Manning stilte spørsmål ved motivene bak den raske utviklingen av AI-teknologi, hvem teknologien til syvende og sist vil være til nytte for, og om presset til kunstig intelligens er å commoditisere hverdagen.
"Glemer vi rett og slett det menneskelige elementet og gjør hver eneste interaksjon vi har på en daglig basis til en vare?" sa Manning. "Denne varen er at vi gjør noe så enkelt som å sveipe på en app eller klikke på et søtt, lite hjerteikon."
Manning kalte kunstig intelligens og store språkmodeller dagens buzzwords, og pekte på den store mengden data disse modellene er trent med, og siterer Wikipedia, lærebøker, videoer og bilder som eksempler.
Manning påpekte at, i motsetning til filer på en server, er disse dataene innebygd i modellens vekter og balanser og kan ikke bare slettes, noe som står i kontrast til EUs generelle databeskyttelsesforordning (GDPR) og personvernrettigheter, der enkeltpersoner kan be om sletting av data.
"Jeg tror at det er på oss, som teknologer, å utvikle verktøy som tar hensyn til det faktum at folk trenger å ha et visst inntrykk av personvern, og at kommunikasjon ikke bør være en ressurs som kan trekkes ut og kommodifiseres," sa Manning. "Jeg vil ikke leve i en verden der relasjonene vi har er en tallverdi."
Med store språkmodeller, advarte Manning, når en persons personlige eller private informasjon er inkorporert, blir den en permanent del av modellen, noe som gjør fjerning umulig.
I 2021 begynte Manning i det Sveits-baserte selskapet Nym Technologies som sikkerhetskonsulent og personvernforkjemper. Nym Technologies lanserte sitt personvernfokuserte prosjekt nym, en desentralisert identitet plattform, i 2020 på Kosmos blockchain.
"Jeg tror at fokuset mitt mer bredt og generelt er på viktigheten av å ha et utseende av personvern - gjennom kryptering eller gjennom de tekniske, teknologiske midlene vi har - og være i stand til å bruke det intuitivt," sa Manning. "Det burde ikke være vanskelig, og det burde ikke være vanskelig å bruke."
Manning fremhevet også økningen og økningen av AI-genererte deepfakes.
«Det som har fanget min oppmerksomhet de siste seks månedene har ikke vært det faktum at folk bruker dype faker i offentlig diskurs og diskusjon, men det faktum at de kan lages og det faktum at de eksisterer, og brukes til å så tvil. på faktisk verifisert informasjon," sa Manning. "Jeg tror at denne trenden stadig får folk til å stille spørsmål ved sin egen virkelighet mer og mer."
Ettersom deepfakes har blitt mer avanserte, bekymrer politikere seg for at de kan påvirke kommende valg eller drivstoff hater på nett. En løsning Manning foreslo var å bruke kryptografi for å verifisere informasjon.
Manning fortalte tidligere dekryptere at Bitcoin appellerte til hennes lidenskap for kryptografi, sikring av informasjon og bygging av desentraliserte kryptografisk baserte nettverk.
"Jeg vet at det er attraktivt å kunne si, jeg kan velge min egen virkelighet, jeg kan velge det jeg liker," sa Manning. "Men realiteten er at den virkelige fysiske materielle verden kommer til å møte det på et tidspunkt. Og jeg tror at når det gjelder klima spesielt, vil vi ikke kunne bare late som det er borte.»
Redigert av Ryan Ozawa.
Hold deg oppdatert på kryptonyheter, få daglige oppdateringer i innboksen din.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://decrypt.co/206449/chelsea-manning-web-summit-ai-technology-privacy