Dunia Baru AI yang Berani: Apa yang terjadi dengan keamanan? Pribadi?

Berikut ini adalah postingan tamu dari John deVadoss, Dewan Pengurus Dewan Bisnis Blockchain Global di Jenewa dan salah satu pendiri InterWork Alliance di Washington, DC.

Minggu lalu, saya mendapat kesempatan di Washington, DC untuk mempresentasikan dan mendiskusikan implikasi AI terkait Keamanan dengan beberapa anggota Kongres dan staf mereka.

AI generatif saat ini mengingatkan saya pada Internet di akhir tahun 80an – penelitian mendasar, potensi terpendam, dan penggunaan akademis, namun belum siap untuk umum. Kali ini, ambisi vendor yang tidak terkekang, didorong oleh modal ventura liga kecil dan didorong oleh ruang gema Twitter, mempercepat pencapaian Brave New World yang diusung AI.

Apa yang disebut model pondasi “publik” sudah tercemar dan tidak sesuai untuk penggunaan konsumen dan komersial; abstraksi privasi, jika ada, bocor seperti saringan; konstruksi keamanan masih dalam proses, karena luas permukaan serangan dan vektor ancaman masih dipahami; dan pagar pembatas yang bersifat ilusi, semakin sedikit yang dibicarakan, semakin baik.

Jadi, bagaimana kita bisa sampai di sini? Dan apa yang terjadi dengan Keamanan? Pribadi?

Model Fondasi yang “Dikompromikan”.

Apa yang disebut model “terbuka” sama sekali tidak terbuka. Vendor yang berbeda memuji tingkat keterbukaan mereka dengan membuka akses ke bobot model, atau dokumentasi, atau pengujian. Namun, tidak ada vendor besar yang menyediakan kumpulan data pelatihan atau manifes atau garis keturunannya untuk dapat mereplikasi dan mereproduksi model mereka.

Ketidakjelasan sehubungan dengan kumpulan data pelatihan berarti bahwa jika Anda ingin menggunakan satu atau lebih model ini, maka Anda, sebagai konsumen atau organisasi, tidak memiliki kemampuan untuk memverifikasi atau memvalidasi tingkat polusi data dengan sehubungan dengan IP, hak cipta, dll. serta konten yang berpotensi ilegal.

Yang terpenting, tanpa manifes kumpulan data pelatihan, tidak ada cara untuk memverifikasi atau memvalidasi konten berbahaya yang tidak ada. Aktor jahat, termasuk aktor yang disponsori negara, menanam konten trojan horse di seluruh web yang diserap oleh para model selama pelatihan mereka, sehingga menimbulkan efek samping yang tidak dapat diprediksi dan berpotensi berbahaya pada waktu inferensi.

Ingat, begitu sebuah model disusupi, tidak ada cara untuk melupakannya, satu-satunya pilihan adalah menghancurkannya.

Keamanan “Berpori”.

Model AI generatif adalah honeypot keamanan tertinggi karena “semua” data telah dimasukkan ke dalam satu wadah. Kelas dan kategori vektor serangan baru muncul di era AI; industri ini belum memahami implikasinya, baik dalam hal pengamanan model-model ini dari ancaman siber maupun dalam kaitannya dengan bagaimana model-model ini digunakan sebagai alat oleh pelaku ancaman siber.

Teknik injeksi cepat yang berbahaya dapat digunakan untuk meracuni indeks; keracunan data dapat digunakan untuk merusak bobot; serangan penyematan, termasuk teknik inversi, dapat digunakan untuk menarik banyak data dari penyematan; inferensi keanggotaan dapat digunakan untuk menentukan apakah data tertentu ada dalam set pelatihan, dll., dan ini hanyalah puncak gunung es.

Pelaku ancaman dapat memperoleh akses ke data rahasia melalui inversi model dan kueri terprogram; mereka mungkin merusak atau mempengaruhi perilaku laten model; dan, seperti disebutkan sebelumnya, penyerapan data secara luas yang tidak terkendali mengarah pada ancaman aktivitas siber yang disponsori negara melalui trojan horse dan masih banyak lagi.

Privasi “Bocor”.

Model AI sangat membantu karena kumpulan data yang digunakan untuk melatihnya; penyerapan data dalam skala besar secara sembarangan menciptakan risiko privasi yang belum pernah terjadi sebelumnya bagi individu dan masyarakat luas. Di era AI, privasi telah menjadi perhatian masyarakat; peraturan yang terutama mengatur hak data individu tidak memadai.

Selain data statis, perintah percakapan dinamis harus diperlakukan sebagai IP yang harus dilindungi dan diamankan. Jika Anda seorang konsumen, yang ikut menciptakan artefak dengan model, Anda ingin petunjuk yang mengarahkan aktivitas kreatif ini tidak digunakan untuk melatih model atau dibagikan kepada konsumen model lainnya.

Jika Anda seorang karyawan yang bekerja dengan model untuk memberikan hasil bisnis, atasan Anda mengharapkan permintaan Anda dirahasiakan; lebih lanjut, petunjuk dan tanggapan memerlukan jejak audit yang aman jika terjadi masalah tanggung jawab yang muncul oleh salah satu pihak. Hal ini terutama disebabkan oleh sifat stokastik model-model ini dan variabilitas responsnya dari waktu ke waktu.

Apa yang akan terjadi selanjutnya?

Kita berhadapan dengan jenis teknologi yang berbeda, tidak seperti yang pernah kita lihat sebelumnya dalam sejarah komputasi, sebuah teknologi yang menunjukkan perilaku laten dan muncul dalam skala besar; pendekatan kemarin untuk keamanan, privasi, dan kerahasiaan tidak lagi berfungsi.

Para pemimpin industri mulai berhati-hati, sehingga regulator dan pembuat kebijakan tidak punya pilihan lain selain mengambil tindakan.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/