Güvenlik Şimdi Yapay Zeka Geliştiricilerini Güçlendirmeli

Güvenlik Şimdi Yapay Zeka Geliştiricilerini Güçlendirmeli

Zaman Damgası: 16 Ekim 2023 7:52
Güvenlik Artık Yapay Zeka Geliştiricilerini Güçlendirmeli PlatoBlockchain Veri Zekası. Dikey Arama. Ai.

Hiç şüphe yok ki GenAI işlerin yapılma şeklini değiştirecek. Araştırma firmaları büyük üretkenlik kazanımları tahmin ediyor Bu, yerine getirildiği takdirde her sektörü tamamen dönüştürecek olan tüm sektörlerde geçerlidir. Böylesine büyük bir potansiyel kazançla, her işletmenin neden ekiplerinin yapay zeka destekli uygulamaları olabildiğince hızlı oluşturmasını sağlamaya çalıştığı açıktır. Ancak güvenlik ekiplerinin bu uygulamaların incelemelere dayanmasını sağlamak için hemen harekete geçmesi gerekiyor.

Yapay Zeka İş Değerini İlk Önce Yakalama Yarışı

Bazı kuruluşlar şimdiye kadar yüzlerce yapay zeka destekli uygulama geliştirdi. Gelişme oranı inanılmazdır; dikkate değer örneklerle birlikte Microsoft, Copilot uygulamalarını kullanıma sunuyor büyük bir işletmenin tipik olarak sağladığının çok ötesinde bir oranda.

Çerçevelerin ve araçların olgunlaşmamış olması nedeniyle Yapay zeka uygulaması geliştirmeBunlar çok çeşitli teknolojilerle inşa ediliyor. Birkaç temel modelin üzerine inşa edilen geliştirme çerçeveleri çoktur ve önemli ölçüde farklılık gösterir ve ortaya çıkmaya devam ederler. Gibi çerçeveler Dil Zinciri ve Otomatik GPT benzeri görülmemiş bir hızla önemli bir popülerlik kazandı. Büyük bir kuruluşta, bu uygulamaları oluşturmak için kullanılan onlarca farklı çerçeveyi kolayca bulmayı bekleyebilirsiniz.

Yapay zekadan üretkenlik kazanımlarını diğerlerinden önce yakalayabilen ilk kuruluşlar büyük bir kazanç elde edecek. Bu nedenle, şu anda mevcut olan çerçevelerle yetinmemiz ve işleri halletmemiz gereken bir yarışın içinde yer alıyoruz. Çerçevelerin standart hale gelmesi muhtemelen uzun zaman alacaktır ve o zamana kadar zaten oyuna geç kalmış olacaksınız.

Gerçekle yüzleşmemiz gerekiyor: İş dünyası, kanıtlanmamış araçlar, çerçeveler ve tehdit modelleriyle benzeri görülmemiş bir hızla yeniden tasarlanıyor.

Güvenlik: Nereden Başlayalım?

Bu kadar kısa bir sürede bu kadar çok yeni uygulama oluşturmanın güvenlik açısından çok büyük sonuçları var. Birincisi, bunlar diğer uygulamalarla aynı güvenlik risklerine sahip olan daha fazla uygulamadır; Birkaç endişeyi saymak gerekirse kimlik, veri akışı ve gizli yönetimi doğru bir şekilde ele almaları gerekiyor. İkincisi, GenAI, aşağıdaki gibi çerçeveler oluşturan bazı benzersiz güvenlik zorlukları yaratır: OWASP Yüksek Lisans İlk 10 yakalamaya ve eğitmeye yardımcı olun.

Gelişmiş güvenlik kuruluşları, BT ile işbirliği içinde bu uygulamaların envanterini çıkarmak, değerlendirmek ve güvenliğini sağlamak için özel merkezler oluşturuyor. Bunların tamamen yeni süreçler oluşturmayı ve yeni devredilen sorumlulukları gerektirdiğini unutmayın. İdeal durumda bu merkezler, güvenli standartların karşılanmasını sağlamak için tehdit modelleme ve tasarım inceleme hizmetleri sunarak geliştiriciler için kolaylaştırıcı bir kaynak görevi görebilir.

Bunun gibi merkezi bir kaynak yaratmak kolay bir iş değil. Bir kuruluştaki tüm yapay zeka destekli projeleri bulmak büyük bir zorluktur çünkü envanter her zaman. Bu uygulamaları denetlemek için gereken teknik becerileri geliştirmek de zordur; özellikle de her biri kendine özgü tuhaflıklara ve kazanımlara sahip olan farklı yapay zeka çerçevelerinin çoğalması nedeniyle. Bu uygulamaları üretimde izlemek, hem olgunlaşmamış geliştirme çerçevelerinden doğru verileri elde etmeye yönelik teknik açıdan, hem de neye bakılacağını bilmeye ilişkin güvenlik analizi açısından bir başka zorluktur.

Ancak bunlar aşılamayacak zorluklar değil. Aslında envanter, güvenlik değerlendirmesi ve çalışma zamanı korumasından oluşan tipik uygulama güvenliği sorunu formülünü izlerler. İlerlemek ve işimizin önce yapay zeka devrimini yakalamasını sağlamak için bu sorunları çözmede ilerleme kaydetmeye başlamalıyız.

Zaman Damgası:

Den fazla karanlık okuma