OpenAI, Uzmanların Red Teaming Ağına Katılma Çağrısını Duyurdu

OpenAI, açık bir çağrı başlattı Kırmızı Ekip AğıYapay zeka modellerinin güvenlik önlemlerini geliştirmek için alan uzmanları arıyor. Kuruluş, farklı alanlardan profesyonellerle işbirliği yaparak, titizlikle değerlendirmeyi ve "kırmızı takım" oluşturmayı amaçlıyor. AI sistemler.

OpenAI Kırmızı Takım Ağı'nı Anlamak

"Kırmızı ekip oluşturma" terimi, yapay zeka sistemleri için çok çeşitli risk değerlendirme tekniklerini kapsar. Bu yöntemler, niteliksel yetenek keşfinden stres testine ve belirli güvenlik açıklarının risk ölçeğine ilişkin geri bildirim sağlamaya kadar uzanır. OpenAI, karışıklığı önlemek ve işbirlikçileriyle kullanılan dille uyumu sağlamak için "kırmızı takım" teriminin kullanımına açıklık getirdi.

Geçtiğimiz yıllarda, OpenAI'nin kırmızı ekip oluşturma girişimleri, şirket içi çekişmeli testlerden, dış uzmanlarla işbirliğine doğru gelişti. Bu uzmanlar, alana özgü risk sınıflandırmalarının geliştirilmesine ve yeni sistemlerdeki potansiyel zararlı yeteneklerin değerlendirilmesine yardımcı olur. Bu değerlendirmeye tabi tutulan önemli modeller arasında DALL·E 2 ve GPT-4 yer alıyor.

Yeni başlatılan OpenAI Kırmızı Takım Ağı, güvenilir uzmanlardan oluşan bir topluluk kurmayı hedefliyor. Bu uzmanlar, önemli model yayınlanmadan önce ara sıra yapılan katılımlar yerine, risk değerlendirmesi ve hafifletilmesine ilişkin daha geniş ölçekte içgörü sağlayacak. Üyeler uzmanlıklarına göre seçilecek ve potansiyel olarak yılda 5-10 saat gibi kısa bir sürede değişen sürelerde katkıda bulunacaklar.

Ağa Katılmanın Yararları

Uzmanlar ağa katılarak daha güvenli yapay zeka teknolojileri ve politikalarının geliştirilmesini etkileme fırsatına sahip olacak. OpenAI'nin modellerini ve sistemlerini dağıtım aşamaları boyunca değerlendirmede çok önemli bir rol oynayacaklar.

OpenAI, yapay zeka sistemlerini değerlendirmede çeşitli uzmanlığın önemini vurguluyor. Kuruluş, hem coğrafi hem de alan çeşitliliğine öncelik vererek dünya çapındaki uzmanlardan aktif olarak başvuru arıyor. İlgi alanlarından bazıları Bilişsel Bilim, Bilgisayar Bilimi, Siyaset Bilimi, Sağlık Hizmetleri, Siber Güvenlik ve çok daha fazlasını içerir. Yapay zeka sistemlerine aşina olmak bir ön koşul değildir ancak yapay zeka etki değerlendirmesine yönelik proaktif bir yaklaşım ve benzersiz bir bakış açısı oldukça değerlidir.

Tazminat ve Gizlilik

OpenAI Kırmızı Takım Ağı katılımcıları, kırmızı takım projelerine yaptıkları katkılardan dolayı tazminat alacaklar. Ancak, bu tür projelere katılımın Gizlilik Anlaşmalarına (NDA) tabi olabileceğinin veya süresiz olarak gizli kalabileceğinin farkında olmalıdırlar.

Uygulama süreci

İnsanlığın yararına güvenli YZG geliştirme misyonuna katılmak isteyenler, OpenAI Kırmızı Takım Ağı'nın bir parçası olmak için başvurabilirler. 

Sorumluluk Reddi ve Telif Hakkı Uyarısı: Bu makalenin içeriği yalnızca bilgilendirme amaçlıdır ve finansal tavsiye niteliğinde değildir. Herhangi bir finansal karar vermeden önce daima bir uzmana danışın. Bu malzeme münhasır mülkiyetindedir Blockchain.Haberler. Açık izin alınmadan izinsiz kullanılması, çoğaltılması veya dağıtılması yasaktır. İzin verilen herhangi bir kullanım için orijinal içeriğe uygun şekilde atıfta bulunulması ve yönlendirilmesi gerekir.

Görüntü kaynağı: Shutterstock

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://Blockchain.News/news/openai-announces-call-for-experts-to-join-its-red-teaming-network