Bergerak Cepat dan Hancurkan Perusahaan Dengan AI

Bergerak Cepat dan Hancurkan Perusahaan Dengan AI

Bergerak Cepat dan Hancurkan Perusahaan Dengan AI PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Bekerja di perusahaan besar selama bertahun-tahun sering kali membuat Anda merasa kuat bahwa segala sesuatunya akan tetap sama selamanya. Tentu saja, ada beberapa hal yang berubah, bahkan secara drastis. Ada pasang surut, penataan ulang secara teratur, dan terkadang perusahaan bahkan menemukan kembali dan meremajakan diri mereka sendiri seperti yang dilakukan Microsoft di bawah Satya Nadella dalam beberapa tahun terakhir. Namun sebagian besar hal tetap sama, dan budayanya tertanam kuat. Ada keengganan untuk berubah; lagipula, perusahaan-perusahaan ini adalah perusahaan yang besar dan sukses โ€” mengapa harus berubah?

Para profesional keamanan sering kali mencapai suatu titik dalam karier mereka di mana mereka melihat ke belakang dan bertanya: Apakah kita sudah mencapai kemajuan? Apakah organisasi saat ini benar-benar lebih aman dibandingkan 20 tahun yang lalu? Tentu saja, lanskap ancamannya berbeda-beda, namun begitu pula dengan jumlah uang dan, yang lebih penting, mindshare yang dibelanjakan untuk keamanan di seluruh industri. Bahkan dengan semua itu, ada beberapa hal yang tidak pernah berubah. Kita sering mendengar pepatah seperti โ€œpengembang tidak peduli dengan keamananโ€, โ€œAnda tidak dapat mengamankan perimeterโ€, โ€œx adalah perimeter baru,โ€ dan (bukan) favorit pribadi saya, โ€œpengguna adalah tautan terlemah.โ€

Mengamankan perusahaan besar berarti harus menghadapi permasalahan perusahaan besar, yang seperti disebutkan di atas, pada dasarnya tidak mau berubah.

Sampai hal itu terjadi.

Berubah dengan Kecepatan AI

Masukkan kecerdasan buatan (AI). Didorong oleh janji teknologi untuk mengubah semua industri, perusahaan-perusahaan besar memobilisasi inisiatif AI mereka secepat kilat. Sungguh luar biasa (dan menakutkan) melihat seberapa cepat Microsoft dan lainnya, termasuk Salesforce, Google, dan Amazon, telah mendorong AI langsung ke dalam penawaran inti perusahaan mereka. Mereka melakukan hal ini meskipun mereka mengetahui bahwa AI memiliki masalah serius yang belum dapat dipecahkan oleh siapa pun penjajaran dengan nilai-nilai kemanusiaan dan keselamatan risiko. Mereka melakukan hal ini karena pelanggan mereka โ€“ seluruh pasar perusahaan โ€“ sangat ingin mengadopsi teknologi terkini agar bisa unggul dalam persaingan.

Apakah Anda seorang penggemar AI atau skeptis terhadap AI, tidak menjadi masalah saat ini. Angin perubahan sedang bertiup, dan peluang telah terbuka di mana perusahaan bersedia mempertaruhkan kompetensi inti mereka untuk mendapatkan manfaat dari AI sebelum pesaing mereka melakukannya.

Menghancurkan Perusahaan

Kemajuan paling signifikan dalam AI perusahaan adalah kopilot bisnis. Setiap toko besar Microsoft sedang memeriksanya Kopilot Microsoft 365 untuk mencapai pemenuhan janji peningkatan produktivitas yang besar. Google, AWS, dan Salesforce telah merilis versinya sendiri: Duet AI, Amazon Q, dan Einstein. Mereka melakukan ini karena mereka melihat nilai besar yang bisa diperoleh. Ide tentang Kopilot juga benar-benar rusak asumsi utama tentang bagaimana suatu perusahaan beroperasi.

  • Melanggar izin. Untuk melayani permintaan saya, AI perusahaan pribadi saya perlu menelusuri semua data yang dapat saya akses untuk mengindeksnya sehingga tersedia untuk kueri. Sebentar lagi kita bisa mengharapkannya untuk mengikuti percakapan saya sebelumnya dengannya. Sekarang mari kita pertimbangkan apa yang terjadi ketika saya pindah ke peran lain di perusahaan atau seseorang menghapus akses saya. Bisakah kita menghapus pengetahuan tersebut dari jaringan saraf AI? Tampaknya hal itu bukan kemampuan model yang ada saat ini. Mungkin besok?

  • Mendobrak batasan data. Jika satu AI dapat menjawab pertanyaan di seluruh akses data perusahaan saya, sulit untuk melihat bagaimana batasan data dapat dipertahankan. Setiap kontrol yang kita letakkan di depan data menjadi tidak berarti, ketika AI dapat membaca data dan menulisnya dalam waktu tak terbatas dari โ€œmemorinyaโ€.

  • Melanggar pemantauan aktivitas. Kami terbiasa memantau aktivitas pengguna untuk menemukan karyawan yang mengintip atau membedakan antara perilaku manusia dan perilaku yang tertulis. Ketika AI bekerja dengan meniru identitas pengguna dan harus menyentuh setiap bagian data yang saya akses untuk membuat indeks, itu berhasil akses anomali berarti apa-apa lagi?

Masalah-masalah ini mungkin sudah ada solusinya, atau mungkin tidak dapat diatasi dalam bentuk AI saat ini dan memerlukan pemikiran ulang yang mendasar. Namun satu hal yang jelas: Masalahnya belum terpecahkan, namun kami tetap bergerak maju. Dan itu pasti menarik.

Stempel Waktu:

Lebih dari Bacaan gelap