Luna trecută, programul de Cercetare și Dezvoltare în Rețele și Tehnologia Informației (NITRD) și-a comemorat cea de-a 30-a aniversare la Washington DC. Puteți citi rezumatul complet al evenimentului aici. Într-un efort de a evidenția impactul pe care investițiile federale l-au avut asupra comunității de cercetare în domeniul informaticii, evenimentul a prezentat cinci panouri în care participanții au discutat despre realizările cheie în domeniu în ultimul deceniu și direcțiile viitoare. Fiecare panou s-a concentrat pe o subdomenie importantă a cercetării informatice: calcul la scară, rețele și securitate, inteligență artificială/învățare automată, confidențialitate și internetul obiectelor și calculul responsabil din punct de vedere social.
Confidențialitatea a devenit un subiect uriaș de conversație nu numai în rândul comunității de cercetare în domeniul informaticii, ci în toate disciplinele atât din mediul academic, cât și din industrie. Efectele negative asupra confidențialității care decurg din disponibilitatea seturilor de date la scară largă sunt multiplicate cu senzori, dispozitive și dispozitive de acționare interconectate care alcătuiesc Internetul lucrurilor (IoT). Moderat de Charles ("Chuck") Romine (NIST) și cu experți de teren Ed Felten (Princeton), Marc Groman (Groman Consulting), Katerina Megas (NIST) și Sunoo Park (Cornell), Panoul 4: Confidențialitate și IoT discută subiecte importante, cum ar fi compromisurile dintre utilizarea datelor și confidențialitate și potențialele obiective de cercetare pentru a ajuta la obținerea de soluții eficiente de politică.
Romine a început prin a evidenția un fir comun în toate panelurile: „vorbind atât despre beneficiile, cât și despre capacitățile extraordinare oferite prin investițiile de finanțare federală, împreună cu riscurile asociate”. IoT nu este diferit, le oferă oamenilor acces la informații insurmontabile, permite campanii publicitare de succes și tehnologia croitorii după gustul dvs. personal, dar pune în pericol și confidențialitatea utilizatorilor.
După cum a subliniat Megas, „Totul motiv pentru care depunem acest efort este pentru că dorim să putem vedea IoT recunoscut și ca societatea să culeagă beneficiile.” Ea a continuat să împărtășească potențialele beneficii și importanța de a putea partaja date pe IoT. Există o scară „fenomenală” de dispozitive în IoT care poate fi utilizată pentru a identifica problemele din seturile de date, pentru a învăța lucruri care au un potențial de impact ridicat pentru indivizi și societate, pentru a instrui tehnologiile de inteligență artificială și pentru a permite micilor companii inovatoare să-și testeze dispozitivele. Romine i-a întrebat pe paneliști care sunt de fapt riscurile legate de confidențialitate în acest context al IoT și al schimbului de informații.
Groman a răspuns explicând mai întâi interacțiunea dintre confidențialitate și IoT. Latura de confidențialitate a IoT este un subset de date din setul mai mare care este colectat, adică despre sau se referă la oameni. Știu oamenii că se colectează date despre ei? Există o interfață în care puteți interacționa cu dispozitivul, să aflați ce colectează sau să îl schimbați? Înțeleg oamenii ce informații sunt colectate sau ce inferențe fac dispozitivul sau compania din datele colectate? Datorită structurii de stimulente monetare și a cantității „vaste” pe care companiile o pot obține din valorificarea acestor date, Groman a îndemnat oamenii să apeleze la politică pentru o soluție.
„Scopul aici este de a maximiza beneficiile și de a minimiza daunele. Nu avem o politică, un cadru legal sau de reglementare în această țară care să producă stimulente pentru a ajunge acolo” – Marc Groman
Contrar atitudinea lui Groman, Romine a întrebat panelul despre potențialul unei soluții tehnologice.
Felten a sugerat să începem prin a încerca să înțelegem și să aplicăm mai bine controlul informațiilor statistice și să construim instrumente care să permită oamenilor să interacționeze cu datele lor și să atenueze impacturile negative. Park, care are un interes deosebit pentru instrumentele de confidențialitate criptografică, a numit o serie de moduri în care criptografie ar putea ajuta în acest sens.
„Criptografia oferă un set de instrumente pentru a construi sisteme care au configurații ale fluxurilor de informații și includ un control mai precis asupra accesului”. – Sunoo Park
Unul dintre instrumente ar putea fi dovezile de zero cunoștințe, care permit partajarea parțială a datelor, păstrând în același timp alte aspecte secrete de la entități. Ea a dat exemplul unui bouncer care verifică ID-urile pentru a intra într-un bar – prin dovezi fără cunoștințe ai putea dovedi că ai 21 de ani fără a-ți împărtăși adresa sau ziua de naștere, de asemenea, enumerate pe ID.
Park a avertizat că, deși criptografia oferă „un spațiu de soluții mai mare pe care îl putem folosi pentru a construi confidențialitate”, nu răspunde la întrebarea ce fel de lucruri ar trebui să construim folosind aceste instrumente sau ce forme de informații considerăm adecvate sau de dorit să le partajăm. Acesta este ceva ce trebuie să rezolvăm ca societate și o chestiune de politică.
În cele din urmă, participanții au fost întrebați de ce ar trebui să le pese oamenilor. Dacă nu au nimic de ascuns? Câștigând râsul mulțimii, Felten a glumit că toată lumea are ceva de ascuns. Într-o notă mai serioasă, el a continuat să evidențieze potențialul rău în profilarea datelor.
„Oamenii de acolo construiesc un model cuprinzător despre cine ești și ce probabil vei face.” – Ed Felten
Deja un gând terifiant, aceste presupuneri pot fi greșite și uneori pot limita oportunitățile și „libertatea de acțiune” în viitor. Groman a subliniat un alt fir comun de-a lungul discuțiilor panelurilor – importanța de a realiza că unele comunități sunt afectate în mod disproporționat. Miza poate fi mai mare pentru a păstra unele date private, indiferent dacă este vorba despre orientare sexuală, gen, rasă sau femei sau copii abuzați.
În timpul întrebărilor și răspunsurilor, fostul vorbitor de la panoul 3, Ben Zorn, a revenit la beneficiile utilizării datelor pentru a antrena AI. El a întrebat ce s-ar putea face cu privire la scurgerea de informații private prin seturile de date folosite pentru a antrena AI.
Felten a subliniat că, dacă nu utilizați o metodă riguroasă pentru a opri în mod intenționat scurgerea informațiilor, atunci informațiile vor curge. De aceea este atât de important să ne concentrăm pe construirea de metode riguroase și demonstrabile de lucruri precum învățarea automată care păstrează confidențialitatea și interfețele pentru a controla efectul de scurgere.
Megas a rezumat perfect că, în cele din urmă, nu putem antrena pe toată lumea, dar le putem oferi oamenilor un cadru care să le permită să se gândească la risc și să le ofere instrumente pentru a le oferi un control mai mare asupra datelor lor. Puteți urmări înregistrarea completă pe Pagina web CCC sau Canalul YouTube al NITRD.
Fiți cu ochii pe blogul final al seriei, Panelul 5: Cum tehnologia poate beneficia societatea: extinderea perspectivelor în cercetarea fundamentală.
