A Zoom a közelmúltban kapott némi visszaélést, amiért azt tervezte, hogy az ügyféladatokat használja gépi tanulási modelljei betanításához. A valóság azonban az, hogy a videokonferencia-társaság nem az első, és nem is az utolsó, akinek hasonló tervei vannak.
A vállalatoknak – különösen azoknak, akik a mesterséges intelligencia-eszközök belső használatra való integrálásával foglalatoskodnak – új kihívásoknak kell tekinteniük ezeket a lehetséges terveket, amelyeket lehetőség szerint új folyamatokkal, felügyelettel és technológiai ellenőrzésekkel proaktívan kell kezelni.
Elhagyott AI-tervek
A Zoom az év elején módosította a szolgáltatási feltételeit, hogy feljogosítsa magának legalább néhány ügyféltartalmat az AI és a gépi tanulási modellek betanításához. Augusztus elején a a cég felhagyott ezzel a változtatással néhány ügyfél visszautasítása után, akik aggódtak amiatt, hogy hang-, video-, chat- és egyéb kommunikációjukat ilyen módon használják fel.
Az incidens – a happy end ellenére – arra emlékeztet, hogy a vállalatoknak fokozottabb figyelmet kell fordítaniuk arra, hogy a technológiai szállítók és más harmadik felek hogyan használhatják fel adataikat a gyorsan kialakuló AI-korszakban.
Az egyik nagy hiba az, hogy azt feltételezzük, hogy az adatok, amelyeket egy technológiai vállalat gyűjthet a mesterséges intelligencia képzéséhez, nem sokban különbözik azoktól az adatoktól, amelyeket a vállalat a szolgáltatáshasználatról gyűjthet – mondja Claude Mandy, a Symmetry Systems adatbiztonsági főevangélistája. „A technológiai cégek már régóta használnak adatokat ügyfeleik szolgáltatáshasználatáról” – mondja Mandy. "Ez azonban általában a használat metaadataira korlátozódik, nem pedig a szolgáltatások által generált vagy azokban tárolt tartalomra vagy adatokra." Lényegében bár mindkettő ügyféladatokat tartalmaz, nagy különbségek vannak az adatok között körülbelül az ügyfél és az adatok of az ügyfél – mondja.
Tiszta megkülönböztetés
Ez egy olyan megkülönböztetés, amely már a figyelem középpontjában áll egy maroknyi perben, amelyekben jelentős technológiai cégek és fogyasztók vesznek részt. Az egyikük szembeállítja a Google-t a fogyasztók millióival. A júliusban San Franciscóban benyújtott kereset a Google-t vádolja nyilvánosan elérhető adatok kaparása az interneten – beleértve a személyes és szakmai információkat, kreatív és szöveges alkotásokat, fényképeket és még e-maileket is –, és felhasználva ezeket a Bard generatív mesterséges intelligencia technológiájának betanításához. „Az FTC szavaival élve, az egész technológiai ipar „ugyanerre igyekszik” – vagyis annyi adatot felszívni, amennyit csak talál – áll a perben.
Újabb csoportos per vádolja a Microsoftot hogy pontosan ugyanezt tegye a ChatGPT és más mesterséges intelligencia eszközök, például a Dall.E és a Vall.E betanítására. Júliusban Sarah Silverman komikus és két szerző vádolta Metát és a Microsoftot szerzői joggal védett anyagaik hozzájárulása nélkül mesterséges intelligencia képzési célokra történő felhasználására.
Míg a perek a fogyasztókat érintik, a szervezetek számára a legfontosabb, hogy meg kell győződniük arról, hogy a technológiai cégek lehetőleg ne tegyék ugyanezt az adataikkal.
„Nincs egyenértékűség az ügyféladatok felhasználói élmény javítására való felhasználása és az AI képzése között. Ez alma és narancs” – figyelmeztet Denis Mandich, a Qrypt társalapítója és az amerikai hírszerző közösség egykori tagja. „A mesterséges intelligencia további kockázata annak, hogy egyénileg előrejelző, és veszélybe sodorja az embereket és a vállalatokat” – jegyzi meg.
Példaként rámutat egy olyan indulásra, amely videó- és fájlátviteli szolgáltatásokat használ egy harmadik féltől származó kommunikációs platformon. Mandich szerint egy generatív mesterséges intelligencia-eszköz, például a ChatGPT, amely ezekre az adatokra oktatott, jó információforrás lehet az induló versenytársa számára. „A probléma itt a tartalommal van kapcsolatos, nem pedig a video-/hangminőséggel, grafikus felhasználói felülettel stb.
Felügyelet és átvilágítás
A nagy kérdés természetesen az, hogy a szervezetek pontosan mit tehetnek annak érdekében, hogy csökkentsék annak kockázatát, hogy érzékeny adataik az AI-modellek részeivé váljanak.
A kiindulópont az lenne, hogy lemondjunk minden olyan mesterséges intelligencia képzésről és generatív mesterséges intelligencia funkcióról, amely nem magántelepítés alatt áll, mondja Omri Weinberg, a DoControl társalapítója és kockázatkezelési igazgatója. "Ez az elővigyázatossági lépés fontos az adatok külső expozíciójának megelőzése érdekében, [amikor] nincs átfogó ismeretenk a tervezett felhasználásról és a lehetséges kockázatokról."
Győződjön meg arról is, hogy a technológiai gyártók szolgáltatási feltételeiben nincsenek kétértelműségek a vállalati adatokkal és azok felhasználásával kapcsolatban – mondja Heather Shoemaker, a Language I/O vezérigazgatója és alapítója. „Az etikus adathasználat a politika átláthatóságán és a tájékozott hozzájáruláson múlik” – jegyzi meg.
Ezen túlmenően az AI-eszközök a képzési használaton túlmenően is tárolhatnak ügyféladatokat, ami azt jelenti, hogy az adatok potenciálisan sebezhetővé válhatnak kibertámadás vagy adatszivárgás esetén.
Mandich azt javasolja, hogy a vállalatok ragaszkodjanak ahhoz, hogy a technológiai szolgáltatók lehetőleg végpontok közötti titkosítást alkalmazzanak. „Nincs ok a harmadik felek hozzáférésének kockáztatására, hacsak nincs rá szükségük adatbányászathoz, és az Ön cége tudatosan beleegyezett, hogy engedélyezi” – mondja. "Ezt az EULA-ban kifejezetten részletezni kell, és az ügyfélnek meg kell követelnie." Az ideális az, ha minden titkosítási kulcsot a vállalat bocsát ki és kezel, nem a szolgáltató – mondja.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- ChartPrime. Emelje fel kereskedési játékát a ChartPrime segítségével. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://www.darkreading.com/edge/vendors-training-ai-customer-data-enterprise-risk
- :van
- :is
- :nem
- :ahol
- $ UP
- 7
- a
- Rólunk
- hozzáférés
- Akció
- További
- címzett
- támogatja
- Után
- ellen
- egyeztetett
- AI
- AI modellek
- AI képzés
- Minden termék
- állítólagos
- lehetővé
- már
- an
- és a
- VANNAK
- AS
- feltételezni
- At
- figyelem
- hang-
- Augusztus
- szerzők
- elérhető
- BE
- óta
- hogy
- között
- Túl
- Nagy
- mindkét
- megsértése
- elfoglalt
- by
- TUD
- eset
- vezérigazgató
- Vezérigazgató és alapító
- kihívások
- megváltozott
- ChatGPT
- fő
- osztály
- Osztályos fellépés
- osztályos cselekvési pert
- vásárló
- közelebb
- Társalapító
- gyűjt
- távközlés
- közösség
- Companies
- vállalat
- versenyző
- átfogó
- az érintett
- konferencia
- beleegyezés
- Fogyasztók
- tartalom
- ellenőrzések
- tudott
- Tanfolyam
- Kreatív
- vevő
- ügyféladatok
- Ügyfelek
- dátum
- adatok megsértése
- adatbányászat
- adatbiztonság
- követelte
- bevetés
- részletes
- különbség
- különböző
- megkülönböztetés
- do
- Ennek
- Don
- két
- e
- Korábban
- Korai
- csiszolókő
- titkosítás
- végtől végig
- befejező
- Vállalkozás
- Egész
- Ez volt
- lényeg
- stb.
- etikai
- Evangélista
- Még
- pontosan
- példa
- tapasztalat
- Exponálás
- külső
- Jellemzők
- filé
- iktatott
- uszony
- Találjon
- vezetéknév
- Összpontosít
- A
- Korábbi
- alapító
- Francisco
- ból ből
- FTC
- általában
- generált
- nemző
- Generatív AI
- Ad
- jó
- maréknyi
- boldog
- Legyen
- he
- itt
- zsanérok
- Hogyan
- azonban
- HTTPS
- ideális
- fontos
- javul
- in
- Egyénileg
- ipar
- információ
- tájékoztatták
- integrálása
- Intelligencia
- szándékolt
- belső
- vonja
- bevonásával
- kérdés
- Kiadott
- IT
- ITS
- maga
- jpg
- július
- éppen
- kulcsok
- tudatosan
- nyelv
- keresztnév
- per
- perek
- tanulás
- legkevésbé
- mint
- Korlátozott
- Hosszú
- hosszú idő
- gép
- gépi tanulás
- fontos
- csinál
- sikerült
- anyag
- jelenti
- tag
- meta
- Metaadatok
- esetleg
- Több millió
- Bányászati
- hiba
- Enyhít
- modellek
- sok
- Szükség
- Új
- nem
- Megjegyzések
- of
- Tiszt
- omri
- on
- ONE
- or
- szervezetek
- Más
- ki
- Felügyelet
- rész
- fél
- Fizet
- Emberek (People)
- személyes
- vonatkozó
- képek
- tervezés
- tervek
- emelvény
- Plató
- Platón adatintelligencia
- PlatoData
- pont
- pont
- politika
- lehetséges
- potenciális
- potenciálisan
- pontosan
- megakadályozása
- magán
- Folyamatok
- szakmai
- ellátó
- szolgáltatók
- nyilvánosan
- célokra
- elhelyezés
- világítás
- kérdés
- gyorsan
- Inkább
- Valóság
- ok
- kapott
- nemrég
- Reuters
- jobb
- Kockázat
- kockázatok
- s
- azonos
- San
- San Francisco
- azt mondja,
- biztonság
- érzékeny
- szolgáltatás
- Szolgáltatások
- ő
- kellene
- hasonló
- néhány
- forrás
- Kezdve
- indítás
- Lépés
- tárolni
- memorizált
- ilyen
- biztos
- Systems
- tech
- tech ipar
- Technológia
- technológiai cégek
- feltételek
- mint
- hogy
- A
- azok
- Őket
- Ott.
- Ezek
- ők
- dolog
- Harmadik
- harmadik felek
- harmadik fél
- ezt
- idén
- azok
- idő
- nak nek
- is
- szerszám
- szerszámok
- Vonat
- kiképzett
- Képzések
- átruházás
- Átláthatóság
- kettő
- alatt
- megértés
- us
- Használat
- használ
- használt
- használó
- User Experience
- Felhasználók
- segítségével
- Vákuum
- gyártók
- nagyon
- videó
- videókonferenciázás
- megtekintők
- Sebezhető
- Út..
- we
- voltak
- Mit
- amikor
- ami
- míg
- WHO
- lesz
- val vel
- nélkül
- szavak
- művek
- lenne
- év
- A te
- zephyrnet