Zoom har for nylig modtaget skrammer for at planlægge at bruge kundedata til at træne sine maskinlæringsmodeller. Virkeligheden er dog, at videokonferencefirmaet ikke er det første, og det vil heller ikke være det sidste, der har lignende planer.
Virksomheder – især dem, der har travlt med at integrere AI-værktøjer til intern brug – bør se disse potentielle planer som nye udfordringer, der skal løses proaktivt med nye processer, tilsyn og teknologikontrol, hvor det er muligt.
Forladte AI-planer
Zoom ændrede tidligere på året sine servicevilkår for at give sig selv ret til at bruge i det mindste noget kundeindhold til at træne deres AI- og maskinlæringsmodeller. I begyndelsen af august virksomheden opgav denne ændring efter pushback fra nogle kunder, der var bekymrede over, at deres lyd, video, chat og anden kommunikation blev brugt på denne måde.
Hændelsen - på trods af den lykkelige slutning for nu - er en påmindelse om, at virksomheder skal være mere opmærksomme på, hvordan teknologileverandører og andre tredjeparter kan bruge deres data i den hastigt fremvoksende AI-æra.
En stor fejl er at antage, at data, som en teknologivirksomhed kan indsamle til AI-træning, ikke er meget forskellig fra data, virksomheden måske indsamler om servicebrug, siger Claude Mandy, chefevangelist, datasikkerhed hos Symmetry Systems. "Teknologivirksomheder har brugt data om deres kunders brug af tjenester i lang tid," siger Mandy. "Dette har dog generelt været begrænset til metadata om brugen, snarere end indholdet eller dataene, der genereres af eller lagres i tjenesterne." Mens begge involverer kundedata, er der en stor forskel mellem data om kunden og data of kunden, siger han.
Klar skelnen
Det er en sondring, der allerede er i fokus i en håndfuld retssager, der involverer store teknologivirksomheder og forbrugere. En af dem stiller Google op imod en klasse på millioner af forbrugere. Retssagen indgivet i juli i San Francisco beskylder Google for skrabe offentligt tilgængelige data på internettet – inklusive personlig og professionel information, kreative og tekstskrevne værker, fotos og endda e-mails – og bruge dem til at træne sin Bard-generative AI-teknologi. "Med FTC's ord, "sprinter hele tech-industrien for at gøre det samme" - det vil sige at støvsuge så meget data op, som de kan finde," hævdede retssagen.
Endnu et gruppesøgsmål anklager Microsoft at gøre præcis det samme for at træne ChatGPT og andre AI-værktøjer såsom Dall.E og Vall.E. I juli kom komiker Sarah Silverman og to forfattere anklagede Meta og Microsoft at bruge deres ophavsretligt beskyttede materiale uden samtykke til AI-træning.
Mens retssagerne involverer forbrugere, er det takeaway for organisationer, at de skal sørge for, at teknologivirksomheder ikke gør det samme med deres data, hvor det er muligt.
"Der er ingen ækvivalens mellem at bruge kundedata til at forbedre brugeroplevelsen og [til] træning af AI. Dette er æbler og appelsiner,” advarer Denis Mandich, medstifter af Qrypt og tidligere medlem af det amerikanske efterretningssamfund. "AI har den ekstra risiko for at være individuelt forudsigelig, hvilket bringer mennesker og virksomheder i fare," bemærker han.
Som eksempel peger han på en startup, der bruger video- og filoverførselstjenester på en tredjeparts kommunikationsplatform. Et generativt AI-værktøj som ChatGPT trænet på disse data kan potentielt være en god kilde til information for en konkurrent til den opstart, siger Mandich. "Spørgsmålet her handler om indholdet, ikke brugernes oplevelse for video/lydkvalitet, GUI osv."
Tilsyn og Due Diligence
Det store spørgsmål er selvfølgelig, hvad organisationer præcist kan gøre for at mindske risikoen for, at deres følsomme data ender som en del af AI-modeller.
Et udgangspunkt ville være at fravælge al AI-træning og generative AI-funktioner, der ikke er under privat implementering, siger Omri Weinberg, medstifter og chief risk officer hos DoControl. "Dette forholdsregler er vigtigt for at forhindre ekstern eksponering af data, [når] vi ikke har en omfattende forståelse af dets tilsigtede brug og potentielle risici."
Sørg også for, at der ikke er nogen uklarheder i en teknologileverandørs servicevilkår vedrørende virksomhedsdata, og hvordan de bruges, siger Heather Shoemaker, CEO og grundlægger af Language I/O. "Etisk databrug afhænger af politikgennemsigtighed og informeret samtykke," bemærker hun.
Yderligere kan AI-værktøjer gemme kundeoplysninger ud over træningsbrugen, hvilket betyder, at data potentielt kan være sårbare i tilfælde af et cyberangreb eller databrud."
Mandich går ind for, at virksomheder insisterer på, at teknologiudbydere bruger end-to-end-kryptering, hvor det er muligt. "Der er ingen grund til at risikere adgang for tredjeparter, medmindre de har brug for det til data mining, og din virksomhed bevidst har accepteret at tillade det," siger han. "Dette bør udtrykkeligt angives i EULA og kræves af kunden." Det ideelle er at få alle krypteringsnøgler udstedt og administreret af virksomheden og ikke udbyderen, siger han.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Automotive/elbiler, Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- ChartPrime. Løft dit handelsspil med ChartPrime. Adgang her.
- BlockOffsets. Modernisering af miljømæssig offset-ejerskab. Adgang her.
- Kilde: https://www.darkreading.com/edge/vendors-training-ai-customer-data-enterprise-risk
- :har
- :er
- :ikke
- :hvor
- $OP
- 7
- a
- Om
- adgang
- Handling
- Yderligere
- rettet
- fortalere
- Efter
- mod
- aftalt
- AI
- AI modeller
- AI -træning
- Alle
- påståede
- tillade
- allerede
- an
- ,
- ER
- AS
- antage
- At
- opmærksomhed
- lyd
- AUGUST
- forfattere
- til rådighed
- BE
- været
- være
- mellem
- Beyond
- Big
- både
- brud
- travlt
- by
- CAN
- tilfælde
- Direktør
- CEO og grundlægger
- udfordringer
- ændret
- ChatGPT
- chef
- klasse
- Class Action
- class action retssag
- kunde
- tættere
- Medstifter
- indsamler
- Kommunikation
- samfund
- Virksomheder
- selskab
- konkurrent
- omfattende
- pågældende
- konferencer
- samtykke
- Forbrugere
- indhold
- kontrol
- kunne
- Kursus
- Kreativ
- kunde
- kundedata
- Kunder
- data
- bruddet
- data mining
- datasikkerhed
- forlangte
- implementering
- detaljeret
- forskel
- forskellige
- skelnen
- do
- gør
- Don
- grund
- e
- tidligere
- Tidligt
- smergel
- kryptering
- ende til ende
- slutter
- Enterprise
- Hele
- Era
- Essensen
- etc.
- etisk
- Evangelist
- Endog
- præcist nok
- eksempel
- erfaring
- Eksponering
- ekstern
- Funktionalitet
- File (Felt)
- indgivet
- fin
- Finde
- Fornavn
- Fokus
- Til
- Tidligere
- grundlægger
- Francisco
- fra
- FTC
- generelt
- genereret
- generative
- Generativ AI
- Giv
- godt
- håndfuld
- Gem
- Have
- he
- link.
- hængsler
- Hvordan
- Men
- HTTPS
- ideal
- vigtigt
- Forbedre
- in
- Individuelt
- industrien
- oplysninger
- informeret
- Integration
- Intelligens
- beregnet
- interne
- involvere
- involverer
- spørgsmål
- Udstedt
- IT
- ITS
- selv
- jpg
- juli
- lige
- nøgler
- bevidst
- Sprog
- Efternavn
- retssag
- Retssager
- læring
- mindst
- ligesom
- Limited
- Lang
- lang tid
- maskine
- machine learning
- større
- lave
- lykkedes
- materiale
- betyder
- medlem
- Meta
- Metadata
- måske
- millioner
- Mining
- fejltagelse
- afbøde
- modeller
- meget
- Behov
- Ny
- ingen
- Noter
- of
- Officer
- omri
- on
- ONE
- or
- organisationer
- Andet
- ud
- Tilsyn
- del
- parter
- Betal
- Mennesker
- personale
- vedrørende
- pics
- planlægning
- planer
- perron
- plato
- Platon Data Intelligence
- PlatoData
- Punkt
- punkter
- politik
- mulig
- potentiale
- potentielt
- præcist
- forhindre
- private
- Processer
- professionel
- udbyder
- udbydere
- offentligt
- formål
- Sætte
- kvalitet
- spørgsmål
- hurtigt
- hellere
- Reality
- grund
- modtaget
- for nylig
- Reuters
- højre
- Risiko
- risici
- s
- samme
- San
- San Francisco
- siger
- sikkerhed
- følsom
- tjeneste
- Tjenester
- hun
- bør
- lignende
- nogle
- Kilde
- Starter
- opstart
- Trin
- butik
- opbevaret
- sådan
- sikker
- Systemer
- tech
- tech industri
- Teknologier
- teknologiselskaber
- vilkår
- end
- at
- deres
- Them
- Der.
- Disse
- de
- ting
- Tredje
- tredje partier
- tredjepart
- denne
- i år
- dem
- tid
- til
- også
- værktøj
- værktøjer
- Tog
- uddannet
- Kurser
- overførsel
- Gennemsigtighed
- to
- under
- forståelse
- us
- Brug
- brug
- anvendte
- Bruger
- Brugererfaring
- brugere
- ved brug af
- Vacuum
- leverandører
- meget
- video
- videokonference
- visning
- Sårbar
- Vej..
- we
- var
- Hvad
- hvornår
- som
- mens
- WHO
- vilje
- med
- uden
- ord
- virker
- ville
- år
- Din
- zephyrnet