Zoom ha recentemente ricevuto alcune critiche per aver pianificato di utilizzare i dati dei clienti per addestrare i suoi modelli di apprendimento automatico. La realtà, tuttavia, è che l’azienda di videoconferenze non è la prima, né sarà l’ultima, ad avere piani simili.
Le imprese, in particolare quelle impegnate a integrare strumenti di intelligenza artificiale per uso interno, dovrebbero considerare questi potenziali piani come sfide emergenti che devono essere affrontate in modo proattivo con nuovi processi, supervisione e controlli tecnologici, ove possibile.
Piani AI abbandonati
Zoom all'inizio di quest'anno ha modificato i suoi termini di servizio per darsi il diritto di utilizzare almeno alcuni contenuti dei clienti per addestrare i loro modelli di intelligenza artificiale e apprendimento automatico. Ai primi di agosto il l'azienda ha abbandonato quel cambiamento dopo il rifiuto di alcuni clienti preoccupati per il fatto che audio, video, chat e altre comunicazioni venissero utilizzate in questo modo.
L’incidente, nonostante per ora il lieto fine, ricorda che le aziende devono prestare maggiore attenzione al modo in cui i fornitori di tecnologia e altre terze parti potrebbero utilizzare i propri dati nell’era dell’intelligenza artificiale in rapida espansione.
Un grosso errore è presumere che i dati che un’azienda tecnologica potrebbe raccogliere per la formazione sull’intelligenza artificiale non siano molto diversi dai dati che l’azienda potrebbe raccogliere sull’utilizzo del servizio, afferma Claude Mandy, capo evangelista, sicurezza dei dati presso Symmetry Systems. "Le aziende tecnologiche utilizzano da molto tempo i dati sull'utilizzo dei servizi da parte dei propri clienti", afferma Mandy. "Tuttavia, questo è stato generalmente limitato ai metadati sull'utilizzo, piuttosto che al contenuto o ai dati generati o archiviati nei servizi." In sostanza, sebbene entrambi coinvolgano i dati dei clienti, c'è una grande differenza tra i dati circa il cliente e i dati of il cliente, dice.
Chiara distinzione
È una distinzione che è già al centro dell'attenzione in una manciata di cause legali che coinvolgono importanti aziende tecnologiche e consumatori. Uno di questi contrappone Google a una classe di milioni di consumatori. La causa intentata a luglio a San Francisco accusa Google di raschiare i dati disponibili al pubblico su Internet, comprese informazioni personali e professionali, lavori creativi e scritti, foto e persino e-mail, e utilizzandoli per addestrare la propria tecnologia di intelligenza artificiale generativa Bard. "Secondo le parole della FTC, l'intero settore tecnologico sta" correndo per fare lo stesso ", vale a dire, per aspirare quanti più dati riesce a trovare", afferma la causa.
Un'altra azione legale collettiva accusa Microsoft di fare esattamente la stessa cosa per addestrare ChatGPT e altri strumenti di intelligenza artificiale come Dall.E e Vall.E. A luglio, la comica Sarah Silverman e due autori accusato Meta e Microsoft di utilizzare il proprio materiale protetto da copyright senza consenso per scopi di formazione sull'intelligenza artificiale.
Sebbene le cause legali coinvolgano i consumatori, la conclusione per le organizzazioni è che devono assicurarsi che le aziende tecnologiche non facciano la stessa cosa con i loro dati, ove possibile.
“Non esiste equivalenza tra l’utilizzo dei dati dei clienti per migliorare l’esperienza dell’utente e [per] la formazione dell’intelligenza artificiale. Questa è tutta una questione di mele e arance”, avverte Denis Mandich, cofondatore di Qrypt ed ex membro della comunità dell’intelligence statunitense. “L’intelligenza artificiale presenta il rischio aggiuntivo di essere predittiva a livello individuale, mettendo a repentaglio le persone e le aziende”, osserva.
Ad esempio, indica una startup che utilizza servizi di trasferimento di video e file su una piattaforma di comunicazione di terze parti. Uno strumento di intelligenza artificiale generativa come ChatGPT addestrato su questi dati potrebbe potenzialmente essere una buona fonte di informazioni per un concorrente di quella startup, afferma Mandich. "Il problema qui riguarda il contenuto, non l'esperienza degli utenti per quanto riguarda la qualità video/audio, la GUI, ecc."
Supervisione e due diligence
La grande domanda ovviamente è cosa possono fare esattamente le organizzazioni per mitigare il rischio che i loro dati sensibili finiscano come parte dei modelli di intelligenza artificiale.
Un punto di partenza sarebbe quello di rinunciare a tutta la formazione sull’intelligenza artificiale e alle funzionalità di intelligenza artificiale generativa che non sono oggetto di implementazione privata, afferma Omri Weinberg, cofondatore e responsabile dei rischi di DoControl. "Questa misura precauzionale è importante per prevenire l'esposizione esterna dei dati [quando] non abbiamo una comprensione completa dell'uso previsto e dei potenziali rischi."
Assicurati inoltre che non vi siano ambiguità nei termini di servizio di un fornitore di tecnologia relativi ai dati aziendali e al modo in cui vengono utilizzati, afferma Heather Shoemaker, CEO e fondatrice di Language I/O. “L’utilizzo etico dei dati dipende dalla trasparenza delle politiche e dal consenso informato”, osserva.
Inoltre, gli strumenti di intelligenza artificiale possono archiviare le informazioni sui clienti oltre il semplice utilizzo della formazione, il che significa che i dati potrebbero essere potenzialmente vulnerabili in caso di attacco informatico o violazione dei dati”.
Mandich sostiene che le aziende insistano affinché i fornitori di tecnologia utilizzino la crittografia end-to-end ove possibile. "Non c'è motivo di rischiare l'accesso da parte di terzi a meno che non ne abbiano bisogno per il data mining e la tua azienda abbia consapevolmente accettato di consentirlo", afferma. "Ciò dovrebbe essere esplicitamente dettagliato nell'EULA e richiesto dal cliente." L'ideale è che tutte le chiavi di crittografia siano emesse e gestite dall'azienda e non dal fornitore, afferma.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Automobilistico/VE, Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Grafico Prime. Migliora il tuo gioco di trading con ChartPrime. Accedi qui.
- BlockOffset. Modernizzare la proprietà della compensazione ambientale. Accedi qui.
- Fonte: https://www.darkreading.com/edge/vendors-training-ai-customer-data-enterprise-risk
- :ha
- :È
- :non
- :Dove
- $ SU
- 7
- a
- Chi siamo
- accesso
- Action
- aggiuntivo
- indirizzata
- sostenitori
- Dopo shavasana, sedersi in silenzio; saluti;
- contro
- concordato
- AI
- Modelli AI
- Addestramento AI
- Tutti
- presunta
- consentire
- già
- an
- ed
- SONO
- AS
- assumere
- At
- attenzione
- Audio
- AGOSTO
- gli autori
- disponibile
- BE
- stato
- essendo
- fra
- Al di là di
- Big
- entrambi
- violazione
- occupato
- by
- Materiale
- Custodie
- ceo
- CEO e fondatore
- sfide
- cambiato
- ChatGPT
- capo
- classe
- Class Action
- azione legale collettiva
- cliente
- più vicino
- Co-fondatore
- raccogliere
- Comunicazioni
- comunità
- Aziende
- azienda
- concorrente
- globale
- interessato
- conferencing
- consenso
- Consumatori
- contenuto
- controlli
- potuto
- Portata
- Creative
- cliente
- dati dei clienti
- Clienti
- dati
- violazione di dati
- data mining
- la sicurezza dei dati
- richiesto
- deployment
- dettagliati
- differenza
- diverso
- distinzione
- do
- fare
- don
- dovuto
- e
- In precedenza
- Presto
- emergenti del mondo
- crittografia
- da un capo all'altro
- finale
- Impresa
- Intero
- epoca
- essenza
- eccetera
- etico
- Evangelista
- Anche
- di preciso
- esempio
- esperienza
- Esposizione
- esterno
- Caratteristiche
- Compila il
- depositata
- pinna
- Trovare
- Nome
- Focus
- Nel
- Ex
- fondatore
- Francisco
- da
- FTC
- generalmente
- generato
- generativo
- AI generativa
- Dare
- buono
- manciata
- contento
- Avere
- he
- qui
- cerniere
- Come
- Tuttavia
- HTTPS
- ideale
- importante
- competenze
- in
- Individualmente
- industria
- informazioni
- informati
- Integrazione
- Intelligence
- destinato
- interno
- coinvolgere
- coinvolgendo
- problema
- Rilasciato
- IT
- SUO
- stessa
- jpg
- Luglio
- ad appena
- Tasti
- consapevolmente
- Lingua
- Cognome
- querela
- cause
- apprendimento
- meno
- piace
- Limitato
- Lunghi
- a lungo
- macchina
- machine learning
- maggiore
- make
- gestito
- materiale
- significato
- membro
- Meta
- Metadati
- forza
- milioni
- Siti di estrazione mineraria
- errore
- Ridurre la perdita dienergia con una
- modelli
- molti
- Bisogno
- New
- no
- Note
- of
- Responsabile
- omri
- on
- ONE
- or
- organizzazioni
- Altro
- su
- svista
- parte
- parti
- Paga le
- Persone
- cronologia
- pertinente
- Foto
- pianificazione
- piani
- piattaforma
- Platone
- Platone Data Intelligence
- PlatoneDati
- punto
- punti
- politica
- possibile
- potenziale
- potenzialmente
- precisamente
- prevenire
- un bagno
- i processi
- professionale
- fornitore
- fornitori
- pubblicamente
- fini
- Mettendo
- qualità
- domanda
- rapidamente
- piuttosto
- Realtà
- ragione
- ricevuto
- recentemente
- Reuters
- destra
- Rischio
- rischi
- s
- stesso
- San
- San Francisco
- dice
- problemi di
- delicata
- servizio
- Servizi
- lei
- dovrebbero
- simile
- alcuni
- Fonte
- Di partenza
- startup
- step
- Tornare al suo account
- memorizzati
- tale
- sicuro
- SISTEMI DI TRATTAMENTO
- Tech
- industria tecnologica
- Tecnologia
- società tecnologiche
- condizioni
- di
- che
- I
- loro
- Li
- Là.
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- cosa
- Terza
- terzi
- di parti terze standard
- questo
- quest'anno
- quelli
- tempo
- a
- pure
- strumenti
- Treni
- allenato
- Training
- trasferimento
- Trasparenza
- seconda
- per
- e una comprensione reciproca
- us
- Impiego
- uso
- utilizzato
- Utente
- Esperienza da Utente
- utenti
- utilizzando
- Vuoto
- fornitori
- molto
- Video
- videoconferenza
- visualizzazione
- Vulnerabile
- Modo..
- we
- sono stati
- Che
- quando
- quale
- while
- OMS
- volere
- con
- senza
- parole
- lavori
- sarebbe
- anno
- Trasferimento da aeroporto a Sharm
- zefiro