Zoom menerima beberapa kritik baru-baru ini karena berencana menggunakan data pelanggan untuk melatih model pembelajaran mesinnya. Namun kenyataannya, perusahaan konferensi video ini bukanlah yang pertama, dan juga bukan yang terakhir, yang memiliki rencana serupa.
Perusahaanโterutama yang sibuk mengintegrasikan alat AI untuk penggunaan internalโharus melihat potensi rencana ini sebagai tantangan baru yang perlu ditangani secara proaktif melalui proses, pengawasan, dan kontrol teknologi baru jika memungkinkan.
Rencana AI yang Terbengkalai
Zoom awal tahun ini mengubah persyaratan layanannya untuk memberikan hak menggunakan setidaknya beberapa konten pelanggan untuk melatih model AI dan pembelajaran mesin mereka. Pada awal bulan Agustus perusahaan mengabaikan perubahan itu setelah penolakan dari beberapa pelanggan yang khawatir tentang audio, video, obrolan, dan komunikasi lainnya yang digunakan dengan cara ini.
Insiden tersebutโwalaupun berakhir bahagia saat iniโadalah pengingat bahwa perusahaan perlu lebih memperhatikan bagaimana vendor teknologi dan pihak ketiga lainnya dapat menggunakan data mereka di era AI yang sedang berkembang pesat.
Salah satu kesalahan besar adalah berasumsi bahwa data yang mungkin dikumpulkan oleh perusahaan teknologi untuk pelatihan AI tidak jauh berbeda dengan data yang mungkin dikumpulkan perusahaan tentang penggunaan layanan, kata Claude Mandy, kepala penginjil, keamanan data di Symmetry Systems. โPerusahaan teknologi telah lama menggunakan data tentang penggunaan layanan oleh pelanggan mereka,โ kata Mandy. โNamun, hal ini umumnya terbatas pada metadata tentang penggunaan, bukan pada konten atau data yang dihasilkan atau disimpan dalam layanan.โ Intinya meskipun keduanya melibatkan data pelanggan, ada perbedaan besar antar data tentang pelanggan dan data of pelanggan, katanya.
Perbedaan yang Jelas
Perbedaan ini sudah menjadi fokus perhatian dalam beberapa tuntutan hukum yang melibatkan perusahaan teknologi besar dan konsumen. Salah satunya mengadu Google dengan jutaan konsumen. Gugatan yang diajukan Juli di San Francisco menuduh Google melakukan hal tersebut mengumpulkan data yang tersedia untuk umum di Internetโtermasuk informasi pribadi dan profesional, karya kreatif dan copywriting, foto, dan bahkan emailโdan menggunakannya untuk melatih teknologi AI generatif Bard. โMenurut FTC, seluruh industri teknologi โberlari untuk melakukan hal yang samaโ โ yaitu menyedot sebanyak mungkin data yang dapat mereka temukan,โ demikian isi gugatan tersebut.
Gugatan class action lainnya menuduh Microsoft melakukan hal yang persis sama untuk melatih ChatGPT dan alat AI lainnya seperti Dall.E dan Vall.E. Pada bulan Juli, komedian Sarah Silverman dan dua penulis menuduh Meta dan Microsoft menggunakan materi berhak cipta mereka tanpa izin untuk tujuan pelatihan AI.
Meskipun tuntutan hukum ini melibatkan konsumen, kesimpulannya bagi organisasi adalah mereka perlu memastikan perusahaan teknologi tidak melakukan hal yang sama terhadap data mereka jika memungkinkan.
โTidak ada kesetaraan antara penggunaan data pelanggan untuk meningkatkan pengalaman pengguna dan [untuk] pelatihan AI. Ini adalah apel dan jeruk,โ Denis Mandich, salah satu pendiri Qrypt dan mantan anggota komunitas intelijen AS, memperingatkan. โAI mempunyai risiko tambahan berupa prediktif individual yang membahayakan manusia dan perusahaan,โ ujarnya.
Sebagai contoh, ia menunjuk pada sebuah startup yang menggunakan layanan transfer video dan file pada platform komunikasi pihak ketiga. Alat AI generatif seperti ChatGPT yang dilatih berdasarkan data ini berpotensi menjadi sumber informasi yang baik bagi pesaing startup tersebut, kata Mandich. โMasalahnya di sini adalah tentang konten, bukan pengalaman pengguna untuk kualitas video/audio, GUI, dll.โ
Pengawasan dan Uji Tuntas
Pertanyaan besarnya tentu saja adalah apa sebenarnya yang dapat dilakukan organisasi untuk memitigasi risiko data sensitif mereka menjadi bagian dari model AI.
Titik awalnya adalah tidak ikut serta dalam semua pelatihan AI dan fitur AI generatif yang tidak diterapkan secara pribadi, kata Omri Weinberg, salah satu pendiri dan kepala petugas risiko di DoControl. โLangkah pencegahan ini penting untuk mencegah paparan data eksternal [ketika] kita tidak memiliki pemahaman komprehensif tentang tujuan penggunaan dan potensi risikonya.โ
Pastikan juga tidak ada ambiguitas dalam persyaratan layanan vendor teknologi terkait data perusahaan dan cara penggunaannya, kata Heather Shoemaker, CEO dan pendiri Language I/O. โPenggunaan data yang etis bergantung pada transparansi kebijakan dan persetujuan berdasarkan informasi,โ jelasnya.
Lebih lanjut, alat AI dapat menyimpan informasi pelanggan lebih dari sekedar penggunaan pelatihan, yang berarti data berpotensi rentan jika terjadi serangan siber atau pelanggaran data.โ
Mandich menganjurkan agar perusahaan mendesak penyedia teknologi untuk menggunakan enkripsi ujung ke ujung jika memungkinkan. โTidak ada alasan untuk mengambil risiko akses oleh pihak ketiga kecuali mereka membutuhkannya untuk penambangan data dan perusahaan Anda secara sadar setuju untuk mengizinkannya,โ katanya. โHal ini harus dirinci secara eksplisit dalam EULA dan diminta oleh klien.โ Idealnya adalah semua kunci enkripsi dikeluarkan dan dikelola oleh perusahaan dan bukan penyedia, katanya.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Otomotif / EV, Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- ChartPrime. Tingkatkan Game Trading Anda dengan ChartPrime. Akses Di Sini.
- BlockOffset. Modernisasi Kepemilikan Offset Lingkungan. Akses Di Sini.
- Sumber: https://www.darkreading.com/edge/vendors-training-ai-customer-data-enterprise-risk
- :memiliki
- :adalah
- :bukan
- :Di mana
- $NAIK
- 7
- a
- Tentang Kami
- mengakses
- Tindakan
- Tambahan
- dialamatkan
- pendukung
- Setelah
- terhadap
- sepakat
- AI
- Model AI
- Pelatihan AI
- Semua
- diduga
- mengizinkan
- sudah
- an
- dan
- ADALAH
- AS
- menganggap
- At
- perhatian
- audio
- Agustus
- penulis
- tersedia
- BE
- menjadi
- makhluk
- antara
- Luar
- Besar
- kedua
- pelanggaran
- sibuk
- by
- CAN
- kasus
- ceo
- CEO dan Pendiri
- tantangan
- berubah
- ChatGPT
- kepala
- kelas
- Gugatan
- gugatan class action
- klien
- lebih dekat
- Co-founder
- mengumpulkan
- komunikasi
- masyarakat
- Perusahaan
- perusahaan
- saingan
- luas
- prihatin
- konferensi
- persetujuan
- Konsumen
- Konten
- kontrol
- bisa
- Kelas
- Kreatif
- pelanggan
- data pelanggan
- pelanggan
- data
- Data pelanggaran
- data mining
- keamanan data
- menuntut
- penyebaran
- terperinci
- perbedaan
- berbeda
- perbedaan
- do
- melakukan
- don
- dua
- e
- Terdahulu
- Awal
- muncul
- enkripsi
- ujung ke ujung
- akhir
- Enterprise
- Seluruh
- Era
- esensi
- dll
- etis
- Pengabar Injil
- Bahkan
- persis
- contoh
- pengalaman
- Pencahayaan
- luar
- Fitur
- File
- mengajukan
- sirip
- Menemukan
- Pertama
- Fokus
- Untuk
- Bekas
- pendiri
- Francisco
- dari
- FTC
- umumnya
- dihasilkan
- generatif
- AI generatif
- Memberikan
- baik
- segenggam
- senang
- Memiliki
- he
- di sini
- engsel
- Seterpercayaapakah Olymp Trade? Kesimpulan
- Namun
- HTTPS
- ideal
- penting
- memperbaiki
- in
- Secara individual
- industri
- informasi
- informasi
- Mengintegrasikan
- Intelijen
- dimaksudkan
- intern
- melibatkan
- melibatkan
- isu
- Ditempatkan
- IT
- NYA
- Diri
- jpg
- Juli
- hanya
- kunci-kunci
- secara sadar
- bahasa
- Terakhir
- perkara hukum
- gugatan
- pengetahuan
- paling sedikit
- 'like'
- Terbatas
- Panjang
- lama
- mesin
- Mesin belajar
- utama
- membuat
- berhasil
- bahan
- makna
- anggota
- meta
- Metadata
- mungkin
- jutaan
- Pertambangan
- kesalahan
- Mengurangi
- model
- banyak
- Perlu
- New
- tidak
- Catatan
- of
- Petugas
- omri
- on
- ONE
- or
- organisasi
- Lainnya
- di luar
- Kelalaian
- bagian
- pihak
- Membayar
- Konsultan Ahli
- pribadi
- berkaitan
- Foto
- perencanaan
- rencana
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- Titik
- poin
- kebijaksanaan
- mungkin
- potensi
- berpotensi
- tepat
- mencegah
- swasta
- proses
- profesional
- pemberi
- penyedia
- di depan umum
- tujuan
- Puting
- kualitas
- pertanyaan
- cepat
- agak
- Kenyataan
- alasan
- diterima
- baru-baru ini
- Reuters
- benar
- Risiko
- risiko
- s
- sama
- San
- San Fransisco
- mengatakan
- keamanan
- peka
- layanan
- Layanan
- dia
- harus
- mirip
- beberapa
- sumber
- Mulai
- startup
- Langkah
- menyimpan
- tersimpan
- seperti itu
- yakin
- sistem
- tech
- industri teknologi
- Teknologi
- perusahaan teknologi
- istilah
- dari
- bahwa
- Grafik
- mereka
- Mereka
- Sana.
- Ini
- mereka
- hal
- Ketiga
- Pihak ketiga
- pihak ketiga
- ini
- tahun ini
- itu
- waktu
- untuk
- terlalu
- alat
- alat
- Pelatihan VE
- terlatih
- Pelatihan
- transfer
- Transparansi
- dua
- bawah
- pemahaman
- us
- penggunaan
- menggunakan
- bekas
- Pengguna
- Pengguna Pengalaman
- Pengguna
- menggunakan
- Kekosongan
- vendor
- sangat
- Video
- konferensi video
- melihat
- Rentan
- Cara..
- we
- adalah
- Apa
- ketika
- yang
- sementara
- SIAPA
- akan
- dengan
- tanpa
- kata
- bekerja
- akan
- tahun
- Anda
- zephyrnet.dll