AWS CISO: Perhatikan Cara AI Menggunakan Data Anda

Perusahaan semakin banyak yang mengadopsi AI generatif untuk mengotomatisasi proses TI, mendeteksi ancaman keamanan, dan mengambil alih fungsi layanan pelanggan lini depan. Sebuah Survei IBM pada tahun 2023 menemukan bahwa 42% perusahaan besar secara aktif menggunakan AI, dan 40% lainnya sedang mengeksplorasi atau bereksperimen dengan AI.

Dalam pertemuan antara AI dan cloud yang tidak bisa dihindari, perusahaan perlu memikirkan cara mengamankan alat AI di cloud. Salah satu orang yang banyak memikirkan hal ini adalah Chris Betz, yang menjadi CISO di Amazon Web Services Agustus lalu.

Sebelum AWS, Betz adalah wakil presiden eksekutif dan CISO Capital One. Betz juga bekerja sebagai wakil presiden senior dan kepala petugas keamanan di Lumen Technologies dan peran keamanan di Apple, Microsoft, dan CBS.

Dark Reading baru-baru ini berbicara dengan Betz tentang keamanan beban kerja AI di cloud. Versi percakapan itu yang sudah diedit menyusul.

Bacaan Gelap: Apa saja tantangan besar dalam mengamankan beban kerja AI di cloud?

Chris Betz: Saat saya berbicara dengan banyak pelanggan kami tentang AI generatif, percakapan tersebut sering kali dimulai dengan, “Saya memiliki data yang sangat sensitif, dan saya ingin memberikan kemampuan tersebut kepada pelanggan saya. Bagaimana saya melakukannya dengan cara yang aman dan terjamin?” Saya sangat menghargai percakapan tersebut karena sangat penting bagi pelanggan kami untuk fokus pada hasil yang ingin mereka capai.

Bacaan Gelap: Apa yang paling dikhawatirkan pelanggan?

Bets: Percakapan harus dimulai dengan konsep bahwa “data Anda adalah data Anda.” Kami memiliki keuntungan besar karena saya dapat membangun infrastruktur TI yang berfungsi dengan baik dalam menjaga data tetap berada di tempatnya. Jadi saran pertama yang saya berikan adalah: Pahami di mana data Anda berada. Bagaimana cara melindunginya? Bagaimana cara penggunaannya dalam model AI generatif?

Hal kedua yang kita bicarakan adalah bahwa interaksi dengan model AI generatif sering kali menggunakan beberapa data paling sensitif milik pelanggan mereka. Saat Anda menanyakan model AI generatif tentang transaksi tertentu, Anda akan menggunakan informasi tentang orang-orang yang terlibat dalam transaksi tersebut.

Bacaan Gelap: Apakah perusahaan khawatir tentang apa yang dilakukan AI terhadap data internal perusahaan dan data pelanggan?

Bets: Pelanggan paling ingin menggunakan AI generatif dalam interaksi mereka dengan pelanggan dan dalam menambang serta memanfaatkan sejumlah besar data yang mereka miliki secara internal dan menjadikannya berguna bagi karyawan internal atau pelanggan mereka. Sangat penting bagi perusahaan untuk mengelola data yang sangat sensitif tersebut dengan cara yang aman dan terlindungi karena ini adalah sumber kehidupan bisnis mereka.

Perusahaan perlu memikirkan di mana data mereka berada dan bagaimana data tersebut dilindungi ketika mereka memberikan perintah AI dan kapan mereka mendapatkan tanggapan balik.

Bacaan Gelap: Apakah kualitas tanggapan dan keamanan data saling berkaitan?

Bets: Pengguna AI selalu perlu memikirkan apakah mereka mendapatkan respons yang berkualitas. Alasan keamanan adalah agar orang mempercayai sistem komputer mereka. Jika Anda menyusun sistem kompleks yang menggunakan model AI generatif untuk memberikan sesuatu kepada pelanggan, Anda memerlukan pelanggan untuk percaya bahwa AI memberi mereka informasi yang tepat untuk ditindaklanjuti dan melindungi informasi mereka.

Bacaan Gelap: Apakah ada cara khusus yang dapat dibagikan AWS tentang cara mereka melindungi diri dari serangan AI di cloud? Saya sedang memikirkan tentang suntikan segera, serangan keracunan, serangan permusuhan, hal-hal semacam itu.

Bets: Dengan fondasi yang kuat, AWS siap menghadapi tantangan ini karena kami telah bekerja dengan AI selama bertahun-tahun. Kami memiliki sejumlah besar solusi AI internal dan sejumlah layanan yang kami tawarkan langsung kepada pelanggan kami, dan keamanan telah menjadi pertimbangan utama dalam cara kami mengembangkan solusi ini. Itu adalah apa yang ditanyakan oleh pelanggan kami, dan itulah yang mereka harapkan.

Sebagai salah satu penyedia cloud berskala terbesar, kami memiliki visibilitas luas terhadap kebutuhan keamanan yang terus berkembang di seluruh dunia. Intelijen ancaman yang kami tangkap dikumpulkan dan digunakan untuk mengembangkan wawasan yang dapat ditindaklanjuti yang digunakan dalam alat dan layanan pelanggan seperti Tugas Penjaga. Selain itu, intelijen ancaman kami digunakan untuk menghasilkan tindakan keamanan otomatis atas nama pelanggan guna menjaga keamanan data mereka.

Bacaan Gelap: Kami telah mendengar banyak tentang vendor keamanan siber yang menggunakan AI dan pembelajaran mesin untuk mendeteksi ancaman dengan mencari perilaku yang tidak biasa pada sistem mereka. Apa saja cara lain yang digunakan perusahaan untuk menggunakan AI untuk membantu mengamankan diri mereka sendiri?

Bets: Saya telah melihat pelanggan melakukan beberapa hal luar biasa dengan AI generatif. Kami telah melihat mereka memanfaatkan CodeWhisperer [generator kode bertenaga AI AWS] untuk membuat prototipe dan mengembangkan teknologi dengan cepat. Saya telah melihat tim menggunakan CodeWhisperer untuk membantu mereka membuat kode aman dan memastikan bahwa kami mengatasi kesenjangan dalam kode.

Kami juga membangun solusi AI generatif yang berhubungan dengan beberapa sistem keamanan internal kami. Seperti yang dapat Anda bayangkan, banyak tim keamanan menangani informasi dalam jumlah besar. AI Generatif memungkinkan sintesis data tersebut agar dapat digunakan oleh pembuat dan tim keamanan untuk memahami apa yang terjadi dalam sistem, mengajukan pertanyaan yang lebih baik, dan mengumpulkan data tersebut.

Ketika saya mulai memikirkan tentang kekurangan talenta keamanan siber, AI generatif saat ini tidak hanya membantu meningkatkan kecepatan pengembangan perangkat lunak dan meningkatkan pengkodean yang aman, tetapi juga membantu mengumpulkan data. Ini akan terus membantu kita karena memperkuat kemampuan kemanusiaan kita. AI membantu kita mengumpulkan informasi untuk memecahkan masalah yang kompleks dan membantu menyampaikan data kepada teknisi dan analis keamanan sehingga mereka dapat mulai mengajukan pertanyaan yang lebih baik.

Bacaan Gelap: Apakah Anda melihat ancaman keamanan khusus untuk AI dan cloud?

Bets: Saya telah menghabiskan banyak waktu dengan peneliti keamanan untuk mengamati serangan AI generatif yang mutakhir dan bagaimana penyerang melihatnya. Ada dua kelompok hal yang saya pikirkan di ruang ini. Yang pertama adalah kita melihat pelaku jahat mulai menggunakan AI generatif untuk menjadi lebih cepat dan lebih baik dalam apa yang sudah mereka lakukan. Konten rekayasa sosial adalah contohnya.

Penyerang juga menggunakan teknologi AI untuk membantu menulis kode lebih cepat. Itu sangat mirip dengan posisi pertahanan. Salah satu kekuatan teknologi ini adalah membuat aktivitas menjadi lebih mudah, dan hal ini berlaku bagi penyerang, namun juga berlaku bagi pemain bertahan.

Area lain yang saya lihat mulai diperhatikan oleh para peneliti adalah fakta bahwa model AI generatif ini adalah kode. Seperti kode lainnya, kode tersebut rentan memiliki kelemahan. Penting bagi kita untuk memahami cara mengamankannya dan memastikan bahwa mereka ada di lingkungan yang memiliki pertahanan.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads