Yapay Zeka Tarafından Tasarlanan Tehditler FUD mu yoksa Gerçek mi?

Üretken yapay zeka uygulamalarının piyasaya çıktığı an, yalnızca güvenlik ekipleri için değil, siber suçlular için de iş temposu değişti. Günümüzde yapay zeka yeniliklerini benimsememek, rakiplerinizin gerisinde kalmak ve yapay zeka tarafından desteklenen siber saldırılara karşı siber savunmanızı dezavantajlı konuma getirmek anlamına gelebilir. Ancak yapay zekanın siber suçları nasıl etkileyip etkilemeyeceğini tartışırken, olaylara pragmatik ve ayık bir mercekle bakmamız önemlidir; daha çok bilim kurgu gibi görünen abartılı abartılara kapılmaktansa.

Günümüzün yapay zeka gelişmeleri ve olgunluğu, kurumsal güvenlik için önemli bir ilerlemenin sinyalini veriyor. Siber suçlular, işletmelerin kaynaklarının, becerilerinin ve motivasyonunun boyutuna ve ölçeğine kolayca uyum sağlayamıyor, bu da onların yapay zeka inovasyonunun mevcut hızına ayak uydurmasını zorlaştırıyor. Yapay zekaya özel girişim yatırımı patladı 93.5'de 2021 milyar dolara - kötü adamların bu düzeyde bir sermayesi yok. Ayrıca ticari şirketlere veya hükümete daha fazla zaman ve hızlı başarısız olma, hızlı öğrenme ve önce doğruyu yapma fırsatı verecek insan gücüne, bilgi işlem gücüne ve yeniliklere de sahip değiller.

Ancak hata yapmayın: Siber suçlar yetişecek. Bu, güvenlik sektörünün kısa süreli bir avantaja sahip olduğu ilk sefer değil; fidye yazılımı daha fazla savunmacıyı uç nokta tespit ve yanıt teknolojilerini benimsemeye yöneltmeye başladığında, saldırganların bu tespitleri nasıl atlatacaklarını ve atlatacaklarını anlamak için biraz zamana ihtiyacı vardı. Bu geçici “ek süre” işletmelere zaman kazandırdı kendilerini daha iyi korurlar. Aynı şey şimdi de geçerli: İşletmelerin, tehdit tespit ve müdahale yeteneklerini geliştirerek ve mevcut yapay zeka yeniliklerinin onlara sağladığı hız ve hassasiyetten yararlanarak yapay zeka yarışındaki liderliğini en üst düzeye çıkarması gerekiyor.

Peki yapay zeka siber suçları nasıl değiştiriyor? Yakın zamanda bunu önemli ölçüde değiştirmeyecek, ancak belirli durumlarda ölçeklendirecek. Yapay zekanın kötü niyetli kullanımının nerede anında etki yaratıp yaratmayacağına bir göz atalım.

Tam Otomatik Kötü Amaçlı Yazılım Kampanyaları: FUD

Son aylarda yapay zekanın çeşitli kötü amaçlı kullanım durumlarına ilişkin iddialar gördük, ancak bir senaryonun mümkün olması onu olası kılmıyor. Örneğin tam otomatik kötü amaçlı yazılım kampanyalarını ele alalım; mantık, bu sonuca ulaşmak için yapay zekadan yararlanmanın mümkün olduğunu söylüyor ancak önde gelen teknoloji şirketlerinin henüz tam otomatik yazılım geliştirme döngülerine öncülük etmediği göz önüne alındığında, mali açıdan kısıtlı siber suç gruplarının bunu daha erken başarması pek mümkün değil . Kısmi otomasyon bile siber suçların ölçeklendirilmesini mümkün kılabilir ancak bu, daha önce kullanıldığını gördüğümüz bir taktiktir. Bazar kampanyaları. Bu bir yenilik değil, bir denenmiş ve doğrulanmış teknik defans oyuncuları zaten üstleniyor.

Yapay Zeka Tasarımıyla Kimlik Avı: Gerçeklik (Fakat Önemli Olan Bağlamdır)

Göz önünde bulundurulması gereken bir diğer kullanım örneği de yapay zeka tarafından tasarlanmış kimlik avı saldırılarıdır. Bu sadece mümkün olmakla kalmıyor, aynı zamanda bu saldırıları zaten vahşi doğada görmeye başlıyoruz. Bu yeni nesil kimlik avı, daha yüksek düzeyde ikna edicilik ve tıklama oranı sağlayabilir, ancak insan mühendisliğiyle yapılan kimlik avı ve yapay zeka mühendisliğiyle yapılan kimlik avı hâlâ aynı hedefe doğru ilerlemektedir. Başka bir deyişle, yapay zeka mühendisliğiyle gerçekleştirilen kimlik avı hâlâ tıklama arayan bir kimlik avıdır ve aynı tespit ve yanıt hazırlığını gerektirir.

Ancak sorun aynı kalsa da boyutu çok farklı. Yapay zeka, kimlik avı kampanyalarını ölçeklendirmek için bir güç çarpanı görevi görüyor; dolayısıyla, bir kuruluş gelen kimlik avı e-postalarında bir artış görüyorsa ve bu kötü amaçlı e-postalar önemli ölçüde daha ikna ediciyse, o zaman muhtemelen yüksek bir tıklama oranı olasılığına ve uzlaşma potansiyeline bakıyor demektir. Yapay zeka modelleri ayrıca hedefleme etkinliğini artırarak saldırganların bir kuruluş içindeki belirli bir kimlik avına karşı en duyarlı hedefin kim olduğunu belirlemesine ve sonuçta kampanyalarından daha yüksek bir yatırım getirisine ulaşmasına yardımcı olabilir. Kimlik avı saldırıları, tarihsel olarak saldırganların işletmelere sızmak için kullandıkları en başarılı taktiklerden biri olmuştur. Bu tür saldırıların ölçeklendirilmesi, EDR, MDR, XDR ve IAM teknolojilerinin anormal davranışların etki yaratmadan önce tespit edilmesinde oynadığı kritik rolü vurgulamaktadır.

Yapay Zeka Zehirleme Saldırıları: FUD benzeri

AI zehirlenmesi saldırılarıBaşka bir deyişle, yapay zeka modellerinin oluşturulduğu kodu ve verileri programlı bir şekilde manipüle etmek, siber suçlular için saldırıların "kutsal kâsesi" olabilir. Başarılı bir zehirlenme saldırısının etkisi, yanlış bilgilendirme girişimlerinden, Sabit 4.0 Die. Neden? Çünkü bir saldırgan, modeli zehirleyerek onun istediği şekilde davranmasını veya çalışmasını sağlayabilir ve bu kolayca tespit edilemez. Ancak bu saldırıların gerçekleştirilmesi kolay değil; AI modelinin eğitim sırasında eğitim aldığı verilere erişmeyi gerektiriyor ki bu hiç de küçümsenecek bir başarı değil. Daha fazla model açık kaynak haline geldikçe bu saldırıların riski artacak ancak şimdilik düşük kalacak.

Bilinmeyen

Abartmayı gerçeklikten ayırmak önemli olsa da, yapay zekanın tehdit ortamı üzerindeki etkisi hakkında doğru soruları sorduğumuzdan emin olmak da önemlidir. Yapay zekanın potansiyeline ilişkin pek çok bilinmeyen var; düşmanların amaç ve hedeflerini nasıl değiştirebileceği göz ardı etmememiz gereken bir konu. Yeni yeteneklerin, düşmanlar için yeni amaçlara hizmet etmeye ve onların motivasyonlarını yeniden ayarlamaya nasıl yardımcı olabileceği bilinmiyor.

Yeni yapay zeka destekli saldırılarda hemen bir artış göremeyebiliriz ancak yapay zeka sayesinde siber suçların ölçeklenmesi, hazırlıklı olmayan kuruluşlar üzerinde önemli bir etki yaratacaktır. Hız ve ölçek, yapay zekanın temel özellikleridir ve nasıl savunmacılar da bunlardan faydalanmaya çalışıyorsa, saldırganlar da öyle. Güvenlik ekiplerinin personeli zaten yetersiz ve bunalmış durumda; kötü niyetli trafikte veya olaya müdahale müdahalelerinde ani bir artış görmek, iş yüklerine önemli bir ağırlık katıyor.

Bu, işletmelerin savunmalarına yatırım yapma ihtiyacını her zamankinden daha fazla doğruluyor. Hızı ve hassasiyeti artırmak için yapay zekayı kullanma Tehdit tespit ve müdahale yeteneklerinde. Bu "ek süreden" yararlanan kuruluşlar, saldırganların yapay zeka siber yarışını gerçekten yakalayabilecekleri güne karşı kendilerini çok daha hazırlıklı ve dirençli bulacaklar.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-