Kunstmatige intelligentie was opnieuw het onderwerp van discussie tijdens de jaarlijkse Web Summit in Lissabon, Portugal. Tijdens de slotdag van het evenement uitte klokkenluider en activist Chelsea Manning zijn bezorgdheid over de ontwikkeling van kunstmatige intelligentie en de botsing tussen mens en technologie.
"We leven in een tijdperk waarin we omringd zijn door technologie", zei Manning. “Ik ben talloze voorbeelden tegengekomen van deze botsing tussen de mensen die we zijn en de technologie, en de manier waarop technologie vormgeeft aan hoe we met elkaar omgaan, en hoe instellingen daar deel van uitmaken.”
Manning zegt dat haar leven is gevormd door blootstelling aan de digitale wereld, waaronder dakloos zijn, bij het leger gaan en naar de gevangenis gaan omdat ze in 2010 militaire documenten naar WikiLeaks had gelekt.
“Ik laat dat bepalen hoe ik integreer, technologie bekijk en een grotere, betere toekomst wil opbouwen”, aldus Manning.
Manning zette vraagtekens bij de motieven achter de snelle ontwikkeling van AI-technologie, wie er uiteindelijk van zal profiteren en of de impuls tot kunstmatige intelligentie het dagelijks leven tot een commodity maakt.
“Vergeten we simpelweg het menselijke element en veranderen we elke interactie die we dagelijks hebben in een handelswaar?” zei Manning. “Met dit product doen we zoiets eenvoudigs als swipen op een app of klikken op een schattig hartjespictogram.”
Manning noemde kunstmatige intelligentie en grote taalmodellen de modewoorden van het moment en wees op de grote hoeveelheid gegevens waarmee deze modellen zijn getraind, waarbij hij Wikipedia, leerboeken, video's en afbeeldingen als voorbeelden noemde.
Manning wees erop dat deze gegevens, in tegenstelling tot bestanden op een server, zijn ingebed in de gewichten en balansen van het model en niet zomaar kunnen worden verwijderd, wat in strijd is met de Algemene Verordening Gegevensbescherming van de Europese Unie (GDPR) en privacyrechten, waarbij individuen om verwijdering van gegevens kunnen verzoeken.
“Ik denk dat het aan ons, als technologen, ligt om tools te ontwikkelen die rekening houden met het feit dat mensen een zekere schijn van privacy moeten hebben, en dat communicatie geen hulpbron mag zijn die kan worden geëxtraheerd en gecommercialiseerd,” zei Manning. “Ik wil niet in een wereld leven waarin de relaties die we hebben een numerieke waarde zijn.”
Bij grote taalmodellen waarschuwde Manning dat zodra de persoonlijke of privé-informatie van een persoon is opgenomen, deze een permanent onderdeel van het model wordt, waardoor verwijdering onmogelijk wordt.
In 2021 trad Manning in dienst bij het in Zwitserland gevestigde bedrijf Nym Technologies als beveiligingsadviseur en privacyadvocaat. Nym Technologies lanceerde zijn op privacy gerichte project Nym, een gedecentraliseerde identiteit platform, in 2020 op de Kosmos blockchain.
“Ik denk dat mijn focus breder en in het algemeen ligt op het belang van een zekere schijn van privacy – door middel van encryptie of via de technische, technologische middelen die we hebben – en dat we die intuïtief kunnen gebruiken”, aldus Manning. "Het moet niet moeilijk zijn, en het mag niet moeilijk te gebruiken zijn."
Manning benadrukte ook de opkomst en toename van door AI gegenereerde deepfakes.
“De dingen die de afgelopen zes maanden mijn aandacht hebben getrokken, zijn niet het feit dat mensen deepfakes gebruiken in het publieke debat, maar het feit dat ze gemaakt kunnen worden en het feit dat ze bestaan, en gebruikt worden om twijfel te zaaien. op daadwerkelijk geverifieerde informatie,” zei Manning. “Ik denk dat deze trend ervoor zorgt dat mensen steeds meer hun eigen realiteit in twijfel trekken.”
Nu deepfakes geavanceerder zijn geworden, maken beleidsmakers zich zorgen dat ze toekomstige ontwikkelingen kunnen beïnvloeden verkiezingen of brandstof haat online. Eén oplossing die Manning voorstelde, was het gebruik van cryptografie om informatie te verifiëren.
Manning eerder verteld decoderen dat Bitcoin een beroep deed op haar passie voor cryptografie, het beveiligen van informatie en het bouwen van gedecentraliseerde, cryptografisch gebaseerde netwerken.
"Ik weet dat het aantrekkelijk is om te kunnen zeggen: ik kan mijn eigen realiteit kiezen, ik kan kiezen wat ik leuk vind", zei Manning. “Maar de realiteit is dat de echte fysieke materiële wereld daar op een gegeven moment mee te maken zal krijgen. En ik denk dat we, vooral als het om het klimaat gaat, niet zomaar kunnen doen alsof.”
Bewerkt door Ryan Ozawa.
Blijf op de hoogte van cryptonieuws, ontvang dagelijkse updates in je inbox.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://decrypt.co/206449/chelsea-manning-web-summit-ai-technology-privacy