Zoom a primit unele critici recent pentru că plănuia să folosească datele clienților pentru a-și antrena modelele de învățare automată. Realitatea este însă că firma de videoconferințe nu este prima și nici ultima care are planuri similare.
Întreprinderile – în special cele ocupate cu integrarea instrumentelor AI pentru uz intern – ar trebui să vadă aceste planuri potențiale ca provocări emergente care trebuie abordate în mod proactiv cu noi procese, supraveghere și controale tehnologice, acolo unde este posibil.
Planuri AI abandonate
Zoom la începutul acestui an și-a schimbat termenii și condițiile pentru a-și acorda dreptul de a folosi cel puțin o parte din conținutul clienților pentru a-și instrui modelele de AI și de învățare automată. La începutul lunii august compania a abandonat această schimbare după respingerea unor clienți care erau îngrijorați de utilizarea audio, video, chat și alte comunicări în acest fel.
Incidentul – în ciuda finalului fericit deocamdată – este un memento că companiile trebuie să acorde mai multă atenție modului în care furnizorii de tehnologie și alte terțe părți ar putea să-și folosească datele în era AI care se dezvoltă rapid.
O mare greșeală este să presupunem că datele pe care o companie de tehnologie le-ar putea colecta pentru instruirea AI nu sunt foarte diferite de datele pe care compania le-ar putea colecta despre utilizarea serviciilor, spune Claude Mandy, evanghelist șef, securitatea datelor la Symmetry Systems. „Companiile de tehnologie folosesc date despre utilizarea serviciilor de către clienții lor de mult timp”, spune Mandy. „Cu toate acestea, acest lucru s-a limitat în general la metadate despre utilizare, mai degrabă decât la conținutul sau datele care sunt generate de sau stocate în servicii.” În esență, deși ambele implică date despre clienți, există o mare diferență între date despre clientul și datele of clientul, spune el.
Distincție clară
Este o distincție care este deja în centrul atenției într-o mână de procese care implică mari companii de tehnologie și consumatori. Unul dintre ele îl confruntă pe Google cu o clasă de milioane de consumatori. Procesul intentat în iulie la San Francisco acuză Google de eliminarea datelor disponibile publicului pe Internet – inclusiv informații personale și profesionale, lucrări creative și scrise, fotografii și chiar e-mailuri – și folosindu-le pentru a-și antrena tehnologia IA generativă Bard. „În cuvintele FTC, întreaga industrie tehnologică „sprintează pentru a face același lucru” – adică pentru a aspira cât mai multe date pe care le poate găsi”, a susținut procesul.
Un alt proces colectiv acuză Microsoft de a face exact același lucru pentru a instrui ChatGPT și alte instrumente AI, cum ar fi Dall.E și Vall.E. În iulie, comediantul Sarah Silverman și doi autori a acuzat Meta și Microsoft de a-și folosi materialul protejat prin drepturi de autor fără consimțământ în scopuri de instruire AI.
În timp ce procesele implică consumatori, concluzia pentru organizații este că trebuie să se asigure că companiile de tehnologie nu fac același lucru cu datele lor, acolo unde este posibil.
„Nu există nicio echivalență între utilizarea datelor clienților pentru a îmbunătăți experiența utilizatorului și [pentru] antrenament AI. Sunt mere și portocale”, avertizează Denis Mandich, cofondatorul Qrypt și fost membru al comunității de informații din SUA. „AI are riscul suplimentar de a fi predictiv individual, punând oamenii și companiile în pericol”, notează el.
De exemplu, el indică o pornire care utilizează servicii de transfer video și fișiere pe o platformă de comunicații terță parte. Un instrument AI generativ precum ChatGPT instruit pe aceste date ar putea fi o sursă bună de informații pentru un concurent al acelui startup, spune Mandich. „Problema aici este legată de conținut, nu de experiența utilizatorilor pentru calitatea video/audio, GUI etc.”
Supraveghere și Due Diligence
Marea întrebare este, desigur, ce pot face organizațiile pentru a reduce riscul ca datele lor sensibile să ajungă ca parte a modelelor AI.
Un punct de plecare ar fi renunțarea la toate funcțiile de instruire AI și AI generative care nu sunt în desfășurare privată, spune Omri Weinberg, co-fondator și director de risc la DoControl. „Acest pas de precauție este important pentru a preveni expunerea externă a datelor [când] nu avem o înțelegere cuprinzătoare a utilizării prevăzute și a riscurilor potențiale.”
Asigurați-vă de asemenea că nu există ambiguități în termenii și condițiile furnizorilor de tehnologie referitoare la datele companiei și la modul în care acestea sunt utilizate, spune Heather Shoemaker, CEO și fondator Language I/O. „Utilizarea etică a datelor depinde de transparența politicii și de consimțământul informat”, notează ea.
În plus, instrumentele AI pot stoca informații despre clienți dincolo de utilizarea instruirii, ceea ce înseamnă că datele ar putea fi vulnerabile în cazul unui atac cibernetic sau al unei încălcări a datelor.”
Mandich susține că companiile insistă ca furnizorii de tehnologie să utilizeze criptare end-to-end ori de câte ori este posibil. „Nu există niciun motiv pentru a risca accesul de către terți dacă nu au nevoie de el pentru extragerea datelor și compania dumneavoastră a fost de acord cu bună știință să permită acest lucru”, spune el. „Acest lucru ar trebui să fie detaliat în mod explicit în EULA și solicitat de client.” Idealul este ca toate cheile de criptare să fie emise și gestionate de companie și nu de furnizor, spune el.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. Automobile/VE-uri, carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- ChartPrime. Crește-ți jocul de tranzacționare cu ChartPrime. Accesați Aici.
- BlockOffsets. Modernizarea proprietății de compensare a mediului. Accesați Aici.
- Sursa: https://www.darkreading.com/edge/vendors-training-ai-customer-data-enterprise-risk
- :are
- :este
- :nu
- :Unde
- $UP
- 7
- a
- Despre Noi
- acces
- Acțiune
- Suplimentar
- adresat
- avocaţi
- După
- împotriva
- de acord
- AI
- Modele AI
- Instruire AI
- TOATE
- pretins
- permite
- deja
- an
- și
- SUNT
- AS
- asuma
- At
- atenţie
- audio
- August
- Autorii
- disponibil
- BE
- fost
- fiind
- între
- Dincolo de
- Mare
- atât
- încălcarea
- ocupat
- by
- CAN
- caz
- CEO
- CEO și fondator
- provocări
- si-a schimbat hainele;
- Chat GPT
- şef
- clasă
- Clasa de acțiune
- tribunal de acțiune
- client
- mai aproape
- Co-fondator
- colecta
- Comunicații
- comunitate
- Companii
- companie
- concurent
- cuprinzător
- îngrijorat
- conferințe
- consimţământ
- Consumatorii
- conţinut
- controale
- ar putea
- Curs
- Creator
- client
- datele despre consumator
- clienţii care
- de date
- încălcării securității datelor
- data mining
- securitatea datelor
- cerut
- desfășurarea
- detaliat
- diferenţă
- diferit
- distincție
- do
- face
- don
- două
- e
- Mai devreme
- Devreme
- șmirghel
- criptare
- un capăt la altul
- sfârșit
- Afacere
- Întreg
- Eră
- esenţă
- etc
- etic
- evanghelist
- Chiar
- exact
- exemplu
- experienţă
- Expunere
- extern
- DESCRIERE
- Fișier
- depusă
- aripioară
- Găsi
- First
- Concentra
- Pentru
- Fost
- fondator
- Francisco
- din
- FTC
- în general
- generată
- generativ
- AI generativă
- Da
- bine
- mână
- fericit
- Avea
- he
- aici
- balamale
- Cum
- Totuși
- HTTPS
- ideal
- important
- îmbunătăţi
- in
- Individual
- industrie
- informații
- informat
- integrarea
- Inteligență
- destinate
- intern
- implica
- implicând
- problema
- Emis
- IT
- ESTE
- în sine
- jpg
- iulie
- doar
- chei
- cu bună ştiinţă
- limbă
- Nume
- proces
- Procese
- învăţare
- cel mai puțin
- ca
- Limitat
- Lung
- perioadă lungă de timp
- maşină
- masina de învățare
- major
- face
- gestionate
- material
- sens
- membru
- meta
- Metadata
- ar putea
- milioane
- Minerit
- greşeală
- diminua
- Modele
- mult
- Nevoie
- Nou
- Nu.
- notițe
- of
- Ofiţer
- omri
- on
- ONE
- or
- organizații
- Altele
- afară
- Supraveghere
- parte
- petreceri
- Plătește
- oameni
- personal
- aparținând
- Fotografii
- planificare
- Planurile
- platformă
- Plato
- Informații despre date Platon
- PlatoData
- Punct
- puncte
- Politica
- posibil
- potenţial
- potenţial
- tocmai
- împiedica
- privat
- procese
- profesional
- furnizorul
- furnizori
- public
- scopuri
- Punând
- calitate
- întrebare
- repede
- mai degraba
- Realitate
- motiv
- primit
- recent
- Reuters
- dreapta
- Risc
- Riscurile
- s
- acelaşi
- San
- San Francisco
- spune
- securitate
- sensibil
- serviciu
- Servicii
- ea
- să
- asemănător
- unele
- Sursă
- Pornire
- lansare
- Pas
- stoca
- stocate
- astfel de
- sigur
- sisteme
- tech
- industria tehnologiei
- Tehnologia
- companii de tehnologie
- termeni
- decât
- acea
- lor
- Lor
- Acolo.
- Acestea
- ei
- lucru
- Al treilea
- terțe părți
- terț
- acest
- în acest an
- aceste
- timp
- la
- de asemenea
- instrument
- Unelte
- Tren
- dresat
- Pregătire
- transfer
- Transparență
- Două
- în
- înţelegere
- us
- Folosire
- utilizare
- utilizat
- Utilizator
- Experiența de utilizare
- utilizatorii
- folosind
- Vid
- furnizori
- foarte
- Video
- videoconferinta
- vizionează
- vulnerabil
- Cale..
- we
- au fost
- Ce
- cand
- care
- în timp ce
- OMS
- voi
- cu
- fără
- cuvinte
- fabrică
- ar
- an
- Ta
- zephyrnet