Era Keemasan AI … atau Ancaman Keamanan?

Era Keemasan AI … atau Ancaman Keamanan?

Stempel Waktu: 5 Juli 2023 1:00
Era Keemasan AI… atau Ancaman Keamanan? Kecerdasan Data PlatoBlockchain. Pencarian Vertikal. Ai.

Apakah kita berada di zaman keemasan kecerdasan buatan? Sulit untuk membuat prediksi - dan mungkin keliru. Siapa yang ingin memprediksi masa depan teknologi baru seperti itu?

Namun, kami dapat mengatakan beberapa hal dengan pasti. Banyak yang dibuat dari aplikasi AI untuk karya kreatif, dari akting suara hingga draf skenario pertama. Tapi AI kemungkinan besar akan sangat berguna saat berhadapan dengan pekerjaan yang membosankan. Ini adalah kabar baik bagi pengembang, jika janji tersebut cocok dengan eksperimen awal — draf kode pertama dapat dengan mudah dibuat dan siap untuk diubah dan diulangi oleh pengembang.

Namun, penting untuk diingat bahwa tidak setiap pembuat kode bekerja untuk bisnis yang sah. Sama seperti para pelaku ancaman keamanan siber yang meniru target mereka untuk menjadi lebih ramah bisnis, mereka juga mengadopsi teknologi dan teknik baru. Kita dapat mengharapkan AI untuk membantu pengembangan malware dan ancaman lainnya di tahun-tahun mendatang, baik kita sedang memasuki masa keemasan AI atau tidak.

Penyusunan Kode dan Penipuan

Salah satu tren yang kami lihat dalam beberapa tahun terakhir adalah munculnya penawaran "as-a-service". Peretas awal adalah pengotak-atik dan pembuat kerusakan, menipu sistem telepon atau menyebabkan kekacauan sebagian besar sebagai latihan untuk bersenang-senang. Ini telah berubah secara fundamental. Pelaku ancaman bersifat profesional dan sering kali menjual produk mereka untuk digunakan orang lain.

AI akan sangat cocok dengan cara kerja ini. Mampu membuat kode untuk mengatasi masalah tertentu, AI dapat mengubah kode untuk menargetkan kerentanan atau mengambil kode yang ada dan mengubahnya, sehingga tidak mudah terdeteksi oleh tindakan keamanan yang mencari pola tertentu.

Namun kemungkinan penyalahgunaan AI tidak berhenti di situ. Banyak email phishing terdeteksi oleh alat pemfilteran yang efektif dan berakhir di folder sampah. Mereka yang berhasil masuk ke kotak masuk seringkali merupakan penipuan yang sangat jelas, ditulis dengan sangat buruk sehingga tidak dapat dipahami. Namun AI dapat mematahkan pola ini, membuat ribuan email masuk akal yang dapat menghindari deteksi dan ditulis dengan cukup baik untuk mengelabui filter dan pengguna akhir.

Spear-phishing, bentuk serangan yang lebih bertarget, juga bisa direvolusi oleh teknologi ini. Tentu, mudah untuk mengabaikan email dari atasan Anda yang meminta Anda untuk mengirim uang tunai atau membeli kartu hadiah dengan segera — pelatihan keamanan siber membantu karyawan menghindari penipuan semacam ini. Tapi bagaimana dengan panggilan telepon atau obrolan video palsu? AI memiliki potensi untuk mengambil penampilan siaran dan podcast dan mengubahnya menjadi simulacrum yang meyakinkan, sesuatu yang jauh lebih sulit untuk diabaikan.

Melawan Serangan Siber AI

Ada dua cara utama untuk melawan keuntungan yang akan diberikan AI kepada musuh — AI yang lebih baik dan pelatihan yang lebih baik — Dan keduanya akan diperlukan.

Munculnya AI generasi baru ini telah memulai perlombaan senjata baru. Karena penjahat dunia maya menggunakannya untuk mengembangkan serangan mereka, tim keamanan perlu menggunakannya untuk mengembangkan pertahanan mereka.

Tanpa AI, pertahanan bergantung pada orang yang terlalu banyak bekerja dan memantau pola tertentu yang telah diprogram sebelumnya untuk mencegah serangan. Alat pertahanan AI akan dapat memprediksi vektor serangan dan menunjukkan dengan tepat area sensitif dari jaringan dan sistem. Mereka juga akan dapat menganalisis kode berbahaya, memungkinkan pemahaman yang lebih baik tentang cara kerja serangan baru dan cara mencegahnya.

AI juga dapat berfungsi, dalam keadaan darurat, sebagai penghentian darurat — menonaktifkan jaringan setelah mendeteksi pelanggaran dan mengunci seluruh sistem. Meskipun tidak ideal dari perspektif kesinambungan bisnis, ini bisa jauh lebih tidak merusak daripada pelanggaran data.

Tapi melawan AI dengan AI bukanlah satu-satunya jawaban. Kita juga membutuhkan kecerdasan manusia. Tidak peduli seberapa pintar dan tepat sasaran, pertahanan terbaik melawan serangan phishing adalah karyawan atau pelanggan yang tahu apa yang harus dicari dan cukup curiga untuk tidak terpancing. Menerapkan kebijakan keamanan yang kuat dan praktik terbaik kebersihan dunia maya akan tetap menjadi kunci untuk mempertahankan diri dari serangan.

Artinya, pelatihan perlu diperbarui untuk menyertakan tanda-tanda serangan AI… apa pun itu. Pelatihan perlu dikembangkan dengan AI — satu kursus pelatihan setiap beberapa tahun tidak akan memotongnya lagi ketika pelatihan itu segera kedaluwarsa.

Meskipun tanda-tanda kemungkinan serangan siber yang digerakkan oleh AI berubah dengan cepat, secara umum, serangannya adalah:

  • Cepat dan terukur, mengeksploitasi banyak kerentanan dalam rentang waktu singkat.
  • Adaptif dan mengelak, mengubah taktik dan teknik untuk menghindari deteksi dan respons.
  • Ditargetkan dan dipersonalisasi, menggunakan AI untuk membuat email phishing yang meyakinkan atau kampanye rekayasa sosial.
  • Menipu dan manipulatif, menggunakan AI untuk membuat konten palsu atau yang diubah seperti deepfake, kloning suara, atau pembuatan teks.
  • Diam-diam dan gigih, bersembunyi di infrastruktur jaringan untuk waktu yang lama tanpa diketahui.

Tanda-tanda ini tidak lengkap, dan beberapa serangan yang digerakkan oleh AI mungkin tidak menunjukkan semuanya. Namun, mereka menunjukkan tingkat ancaman AI terhadap keamanan siber.

Untuk melawan serangan siber yang digerakkan oleh AI secara efektif, bisnis harus berpikir di luar aktor jahat individu dan bersiap menghadapi serangan terkoordinasi oleh aktor yang disponsori negara atau organisasi kriminal yang mungkin menggunakan AI untuk meluncurkan kampanye canggih menggunakan pendekatan berbasis risiko. Mereka juga harus memiliki strategi proaktif yang mencakup audit keamanan reguler, pencadangan, enkripsi, dan rencana respons insiden. Ini paling mudah dilakukan dengan memperoleh sertifikasi keamanan terkenal seperti PCI-DSS.

Terakhir, sangat penting bagi organisasi untuk meningkatkan keamanan siber sistem AI mereka sendiri dengan memastikan integritas, kerahasiaan, dan ketersediaannya, serta dengan mengurangi risiko serangan musuh, keracunan data, dan pencurian model.

Strategi ini akan membantu melindungi bisnis, tetapi tidak boleh berdiri sendiri — keamanan harus kolaboratif. Dengan berkolaborasi dengan organisasi, peneliti, dan otoritas lain untuk berbagi informasi, praktik terbaik, dan kegagalan yang dapat dipelajari, bisnis akan lebih siap menghadapi gelombang baru ancaman keamanan AI.

AI adalah ancaman baru dan kelanjutan dari ancaman lama. Bisnis harus mengembangkan cara mereka mengatasi ancaman dunia maya karena ancaman ini menjadi lebih canggih dan lebih banyak, tetapi banyak hal mendasar yang tetap sama. Melakukan hal ini dengan benar tetap penting. Tim keamanan tidak perlu berpaling dari ide lama, tetapi membangunnya untuk menjaga keamanan bisnis mereka.

Stempel Waktu:

Lebih dari Bacaan gelap