Yeni ve İyileştirilmiş İçerik Denetleme Araçları

Geliştiricilerin uygulamalarını olası kötüye kullanıma karşı korumalarına yardımcı olmak için, daha hızlı ve daha doğru olanı sunuyoruz. Denetleme uç noktası. Bu uç nokta, OpenAI API geliştiricilerine ücretsiz erişim sağlar. GPT tabanlı istenmeyen içeriği tespit eden sınıflandırıcılar - bir örneği AI sistemlerini kullanma bu sistemlerin insan denetimine yardımcı olmak. Ayrıca her ikisini de yayınladık teknik makale metodolojimizi ve veri kümesi değerlendirme için kullanılır.

Bir metin girişi verildiğinde, Denetim uç noktası, içeriğin cinsel, nefret dolu, şiddet içeren veya kendine zarar vermeyi teşvik edip etmediğini değerlendirir - içeriğimiz tarafından yasaklanmıştır. içerik politikası. Uç nokta, hızlı, doğru ve çeşitli uygulamalarda güçlü performans gösterecek şekilde eğitilmiştir. Daha da önemlisi, bu, geniş ölçekte kullanıcılara dağıtılsa bile ürünlerin yanlış "söyleme" şansını azaltır. Sonuç olarak, yapay zeka, aksi takdirde güvenle kullanılamayacağı eğitim gibi hassas ortamlarda faydaların kilidini açabilir.

Denetleme uç noktası, geliştiricilerin altyapı yatırımlarımızdan yararlanmasına yardımcı olur. Kendi sınıflandırıcılarını oluşturmak ve sürdürmek yerine - kapsamlı bir süreç, belgemizde belgelediğimiz gibi. kâğıtBunun yerine tek bir API çağrısı aracılığıyla doğru sınıflandırıcılara erişebilirler.

OpenAI'nin bir parçası olarak taahhüt için AI ekosistemini daha güvenli hale getirmek, OpenAI API tarafından oluşturulan tüm içeriğin ücretsiz olarak denetlenmesine izin vermek için bu uç noktayı sağlıyoruz. Örneğin, Dünyada, bir OpenAI API müşterisi, AI tabanlı sanal karakterlerinin "komut dosyasında kalmasına" yardımcı olmak için Denetleme uç noktasını kullanır. Inworld, OpenAI'nin teknolojisinden yararlanarak temel ürünlerine, yani unutulmaz karakterler yaratmaya odaklanabilir.

Ek olarak, içeriği denetlemek için uç noktanın kullanılmasını memnuniyetle karşılıyoruz değil OpenAI API ile oluşturulmuştur. Bir durumda, şirket İngilizce – güvenlik odaklı, anonim bir mesajlaşma platformu – uygulamalarında nefret dolu dili ve zorbalığı tespit etmek için Denetleme uç noktasını kullanır. NGL, bu sınıflandırıcıların en son argoya genelleme yapabildiğini ve zaman içinde daha güvenli kalmalarını sağladığını tespit etti. API olmayan trafiği izlemek için Denetleme uç noktasının kullanımı özel beta sürümündedir ve bir ücrete tabi olacaktır. Eğer ilgileniyorsanız, lütfen bize ulaşın destek@openai.com.

Kontrol ederek Denetleme uç noktasını kullanmaya başlayın belgeleme. Eğitim süreci ve model performansıyla ilgili daha fazla ayrıntıyı şurada bulabilirsiniz: kâğıt. Ayrıca bir yayınladık değerlendirme veri seti, bu kategorilerde etiketlenmiş Ortak Tarama verilerini içerir ve bu alanda daha fazla araştırma yapılmasını teşvik edeceğini umarız.