Cara Merancang AI dengan Aman dalam Program Keamanan Siber Anda

Cara Merancang AI dengan Aman dalam Program Keamanan Siber Anda

Stempel Waktu: 7 Juli 2023 5:38
Cara Merancang AI dengan Aman dalam Program Keamanan Siber Anda PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Pada akhir Juni, perusahaan keamanan siber Group-IB mengungkapkan sebuah hal penting pelanggaran keamanan yang memengaruhi akun ChatGPT. Perusahaan mengidentifikasi 100,000 perangkat yang dikompromikan, masing-masing dengan kredensial ChatGPT yang kemudian diperdagangkan di pasar Dark Web ilegal selama setahun terakhir. Pelanggaran ini mendorong panggilan untuk perhatian segera untuk mengatasi keamanan akun ChatGPT yang disusupi, karena permintaan pencarian yang berisi informasi sensitif diekspos ke peretas.

Dalam insiden lain, dalam kurun waktu kurang dari sebulan, Samsung mengalami tiga kejadian terdokumentasi di mana karyawan secara tidak sengaja membocorkan informasi sensitif melalui ChatGPT. Karena ChatGPT menyimpan data masukan pengguna untuk meningkatkan kinerjanya sendiri, rahasia dagang berharga milik Samsung ini sekarang dimiliki oleh OpenAI, perusahaan di balik layanan AI. Hal ini menimbulkan kekhawatiran yang signifikan terkait kerahasiaan dan keamanan informasi hak milik Samsung.

Karena kekhawatiran tentang kepatuhan ChatGPT terhadap Peraturan Perlindungan Data Umum (GDPR) UE, yang mengamanatkan pedoman ketat untuk pengumpulan dan penggunaan data, Italia telah memberlakukan larangan nasional tentang penggunaan ChatGPT.

Kemajuan pesat dalam AI dan aplikasi AI generatif telah membuka peluang baru untuk mempercepat pertumbuhan intelijen bisnis, produk, dan operasi. Tetapi pemilik program keamanan siber perlu memastikan privasi data sambil menunggu undang-undang dikembangkan.

Mesin Publik versus Mesin Pribadi

Untuk lebih memahami konsepnya, mari kita mulai dengan mendefinisikan AI publik dan AI privat. AI Publik mengacu pada aplikasi perangkat lunak AI yang dapat diakses publik yang telah dilatih pada kumpulan data, seringkali bersumber dari pengguna atau pelanggan. Contoh utama AI publik adalah ChatGPT, yang memanfaatkan data yang tersedia untuk umum dari Internet, termasuk artikel teks, gambar, dan video.

AI publik juga dapat mencakup algoritme yang menggunakan kumpulan data yang tidak eksklusif untuk pengguna atau organisasi tertentu. Akibatnya, pelanggan AI publik harus menyadari bahwa data mereka mungkin tidak sepenuhnya pribadi.

AI pribadi, di sisi lain, melibatkan algoritme pelatihan pada data yang unik untuk pengguna atau organisasi tertentu. Dalam hal ini, jika Anda menggunakan sistem pembelajaran mesin untuk melatih model menggunakan kumpulan data tertentu, seperti faktur atau formulir pajak, model tersebut tetap eksklusif untuk organisasi Anda. Vendor platform tidak menggunakan data Anda untuk melatih model mereka sendiri, sehingga AI pribadi mencegah penggunaan data Anda untuk membantu pesaing Anda.

Integrasikan AI ke dalam Program dan Kebijakan Pelatihan

Untuk bereksperimen, mengembangkan, dan mengintegrasikan aplikasi AI ke dalam produk dan layanan mereka sambil mengikuti praktik terbaik, staf keamanan siber harus mempraktikkan kebijakan berikut.

Kesadaran dan Pendidikan Pengguna: Mendidik pengguna tentang risiko yang terkait dengan penggunaan AI dan mendorong mereka untuk berhati-hati saat mengirimkan informasi sensitif. Promosikan praktik komunikasi yang aman dan sarankan pengguna untuk memverifikasi keaslian sistem AI.

  • Minimisasi Data: Hanya berikan mesin AI jumlah data minimum yang diperlukan untuk menyelesaikan tugas. Hindari berbagi informasi yang tidak perlu atau sensitif yang tidak relevan dengan pemrosesan AI.
  • Anonimisasi dan De-identifikasi: Jika memungkinkan, anonimkan atau de-identifikasi data sebelum memasukkannya ke dalam mesin AI. Ini melibatkan penghapusan informasi identitas pribadi (PII) atau atribut sensitif lainnya yang tidak diperlukan untuk pemrosesan AI.

Praktek Penanganan Data Aman: Tetapkan kebijakan dan prosedur yang ketat untuk menangani data sensitif Anda. Batasi akses hanya untuk personel yang berwenang dan terapkan mekanisme autentikasi yang kuat untuk mencegah akses tidak sah. Latih karyawan tentang praktik terbaik privasi data dan terapkan mekanisme logging dan audit untuk melacak akses dan penggunaan data.

Retensi dan Pembuangan: Tetapkan kebijakan penyimpanan data dan buang data dengan aman setelah tidak diperlukan lagi. Laksanakan dengan benar mekanisme pembuangan data, seperti penghapusan aman atau penghapusan kriptografi, untuk memastikan bahwa data tidak dapat dipulihkan setelah tidak diperlukan lagi.

Pertimbangan Hukum dan Kepatuhan: Pahami konsekuensi hukum dari data yang Anda masukkan ke mesin AI. Pastikan bahwa cara pengguna menggunakan AI mematuhi peraturan yang relevan, seperti undang-undang perlindungan data atau standar khusus industri.

Penilaian Vendor: Jika Anda menggunakan mesin AI yang disediakan oleh vendor pihak ketiga, lakukan penilaian menyeluruh terhadap tindakan keamanan mereka. Pastikan bahwa vendor mengikuti praktik terbaik industri untuk keamanan dan privasi data, dan bahwa mereka memiliki perlindungan yang sesuai untuk melindungi data Anda. Pengesahan ISO dan SOC, misalnya, memberikan validasi pihak ketiga yang berharga atas kepatuhan vendor terhadap standar yang diakui dan komitmen mereka terhadap keamanan informasi.

Memformalkan Kebijakan Penggunaan yang Dapat Diterima (AUP) AI: Kebijakan penggunaan AI yang dapat diterima harus menguraikan tujuan dan sasaran kebijakan, menekankan penggunaan teknologi AI yang bertanggung jawab dan etis. Itu harus menentukan kasus penggunaan yang dapat diterima, menentukan ruang lingkup dan batasan untuk pemanfaatan AI. AUP harus mendorong transparansi, akuntabilitas, dan pengambilan keputusan yang bertanggung jawab dalam penggunaan AI, mendorong budaya praktik AI yang beretika dalam organisasi. Tinjauan dan pembaruan rutin memastikan relevansi kebijakan dengan teknologi dan etika AI yang berkembang.

Kesimpulan

Dengan mematuhi pedoman ini, pemilik program dapat memanfaatkan alat AI secara efektif sambil menjaga informasi sensitif dan menegakkan standar etika dan profesional. Sangatlah penting untuk meninjau keakuratan material yang dihasilkan AI sekaligus melindungi data yang dimasukkan untuk menghasilkan permintaan respons.

Stempel Waktu:

Lebih dari Bacaan gelap