Yapay zeka tarafından yazılmış metin ile insan tarafından yazılmış metin arasında ayrım yapmak için eğitilmiş bir sınıflandırıcı başlatıyoruz.
Bir insan tarafından yazılan metin ile çeşitli sağlayıcılardan yapay zeka tarafından yazılan metin arasında ayrım yapmak için bir sınıflandırıcı eğittik. Yapay zeka tarafından yazılmış tüm metinleri güvenilir bir şekilde tespit etmek imkansız olsa da, iyi sınıflandırıcıların, yapay zeka tarafından oluşturulan metnin bir insan tarafından yazıldığına dair yanlış iddialar için hafifletici önlemler konusunda bilgi sağlayabileceğine inanıyoruz: örneğin, çalışan otomatik yanlış bilgilendirme kampanyaları, akademik sahtekârlık için AI araçlarını kullanmak ve bir AI sohbet robotunu insan olarak konumlandırmak.
Sınıflandırıcımız tamamen güvenilir değil. İngilizce metinlerden oluşan bir "zorluk seti" ile ilgili değerlendirmelerimizde, sınıflandırıcımız yapay zeka tarafından yazılmış metnin %26'sını (gerçek pozitifler) "muhtemelen yapay zeka tarafından yazılmış" olarak doğru bir şekilde tanımlarken, insan tarafından yazılan metni yanlış bir şekilde yapay zeka tarafından yazılmış olarak etiketliyor %9 zaman (yanlış pozitifler). Sınıflandırıcımızın güvenilirliği genellikle giriş metninin uzunluğu arttıkça artar. Bizimle karşılaştırıldığında önceden yayınlanmış sınıflandırıcı, bu yeni sınıflandırıcı, daha yeni yapay zeka sistemlerinden alınan metinlerde önemli ölçüde daha güvenilirdir.
Bunun gibi kusurlu araçların faydalı olup olmadığı hakkında geri bildirim almak için bu sınıflandırıcıyı herkese açık hale getiriyoruz. Yapay zeka tarafından oluşturulan metnin tespiti konusundaki çalışmalarımız devam edecek ve gelecekte iyileştirilmiş yöntemleri paylaşmayı umuyoruz.
Devam eden ücretsiz sınıflandırıcımızı kendiniz deneyin:
Sınırlamalar
Sınıflandırıcımızın bir takım önemli sınırlamaları vardır. Birincil karar verme aracı olarak kullanılmamalıdır., bunun yerine bir metin parçasının kaynağını belirlemeye yönelik diğer yöntemlerin tamamlayıcısı olarak.
- Sınıflandırıcı, kısa metinlerde (1,000 karakterin altında) çok güvenilmezdir. Daha uzun metinler bile bazen sınıflandırıcı tarafından yanlış bir şekilde etiketlenir.
- Bazen insanlar tarafından yazılan metinler, sınıflandırıcımız tarafından yanlış ama güvenle yapay zeka tarafından yazılmış olarak etiketlenir.
- Sınıflandırıcıyı yalnızca İngilizce metin için kullanmanızı öneririz. Diğer dillerde önemli ölçüde daha kötü performans gösterir ve kod konusunda güvenilir değildir.
- Çok tahmin edilebilir olan metin güvenilir bir şekilde tanımlanamaz. Örneğin, ilk 1,000 asal sayı listesinin yapay zeka tarafından mı yoksa insanlar tarafından mı yazıldığını tahmin etmek imkansızdır, çünkü doğru cevap her zaman aynıdır.
- AI ile yazılmış metin, sınıflandırıcıdan kaçınmak için düzenlenebilir. Bizimki gibi sınıflandırıcılar, başarılı saldırılara göre güncellenebilir ve yeniden eğitilebilir, ancak tespitin uzun vadede bir avantajı olup olmadığı açık değildir.
- Sinir ağlarına dayalı sınıflandırıcıların, eğitim verilerinin dışında yetersiz kalibre edildiği bilinmektedir. Eğitim setimizdeki metinden çok farklı girdiler için, sınıflandırıcı bazen yanlış bir tahminde bulunmaktan son derece emindir.
Sınıflandırıcıyı eğitmek
Sınıflandırıcımız, aynı konuda insan tarafından yazılmış metin ve yapay zeka tarafından yazılmış metin çiftlerinden oluşan bir veri kümesi üzerinde ince ayarlı bir dil modelidir. Bu veri setini, insanlar tarafından yazıldığına inandığımız çeşitli kaynaklardan topladık, örneğin eğitim öncesi veriler ve kullanıcılara gönderilen bilgi istemlerindeki insan demonstrasyonları gibi. talimatGPT. Her metni bir bilgi istemi ve bir yanıt olarak ayırdık. Bu istemlerde, bizim tarafımızdan ve diğer kuruluşlar tarafından eğitilen çeşitli farklı dil modellerinden yanıtlar ürettik. Web uygulamamız için yanlış pozitif oranını düşük tutmak için güven eşiğini ayarlıyoruz; başka bir deyişle, yalnızca sınıflandırıcı kendinden çok eminse, metni muhtemelen yapay zeka tarafından yazılmış olarak işaretliyoruz.
Eğitimciler üzerindeki etki ve girdi çağrısı
Yapay zeka ile yazılmış metni tanımlamanın eğitimciler arasında önemli bir tartışma konusu olduğunun ve sınıftaki yapay zeka tarafından oluşturulan metin sınıflandırıcıların sınırlarının ve etkilerinin tanınmasının da aynı derecede önemli olduğunun farkındayız. biz bir geliştirdik ön kaynak ChatGPT'nin eğitimciler için kullanımına ilişkin, bazı kullanımları ve ilgili sınırlamaları ve değerlendirmeleri özetleyen. Bu kaynak eğitimcilere odaklanmış olsa da, sınıflandırıcımızın ve ilişkili sınıflandırıcı araçlarımızın gazeteciler, yanlış/yanlış bilgi araştırmacıları ve diğer gruplar üzerinde bir etkisi olmasını bekliyoruz.
Sınıflarında neler gördüklerini öğrenmek ve ChatGPT'nin yeteneklerini ve sınırlamalarını tartışmak için ABD'deki eğitimcilerle iletişim kuruyoruz ve öğrendikçe erişimimizi genişletmeye devam edeceğiz. Bunlar, etkilenen topluluklarla doğrudan temas halinde, büyük dil modellerini güvenli bir şekilde devreye alma misyonumuzun bir parçası olarak yapılması gereken önemli konuşmalardır.
Bu sorunlardan doğrudan etkileniyorsanız (öğretmenler, yöneticiler, veliler, öğrenciler ve eğitim hizmeti sağlayıcıları dahil ancak bunlarla sınırlı olmamak üzere), lütfen kullanarak bize geri bildirimde bulunun. Airdrop Form. hakkında doğrudan geri bildirim ön kaynak yararlıdır ve ayrıca eğitimcilerin geliştirmekte olduğu veya yararlı bulduğu tüm kaynakları da memnuniyetle karşılıyoruz (örneğin, kurs yönergeleri, onur kuralları ve politika güncellemeleri, etkileşimli araçlar, yapay zeka okuryazarlık programları).
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
- Kaynak: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- %26
- 7
- a
- akademik
- yöneticiler
- avantaj
- AI
- AI chatbot
- Türkiye
- her zaman
- arasında
- ve
- cevap
- uygulamayı yükleyeceğiz
- ilişkili
- saldırılar
- mevcut
- merkezli
- Çünkü
- Inanmak
- altında
- arasında
- genişletmek
- çağrı
- yapamam
- yetenekleri
- karakterler
- chatbot
- ChatGPT
- iddia
- kod
- topluluklar
- karşılaştırıldığında
- Tamamlayıcı
- güven
- emin
- kendine güvenerek
- hususlar
- UAF ile
- devam etmek
- konuşmaları
- Kurs
- veri
- Karar verme
- dağıtmak
- Bulma
- belirlenmesi
- gelişmiş
- gelişen
- farklı
- direkt
- direkt olarak
- tartışmak
- tartışma
- ayırmak
- bölünmüş
- her
- Eğitim
- eğitimciler
- çekici
- İngilizce
- eşit olarak
- değerlendirmeler
- Hatta
- örnek
- beklemek
- son derece
- geribesleme
- Ad
- odaklanmış
- bulundu
- Ücretsiz
- itibaren
- tamamen
- gelecek
- oluşturulan
- almak
- Tercih Etmenizin
- Grubun
- kuralları yenileyerek
- faydalı
- umut
- HTTPS
- insan
- İnsanlar
- tespit
- tanımlar
- belirlenmesi
- darbe
- etkiledi
- Etkiler
- önemli
- imkânsız
- gelişmiş
- in
- Diğer
- Dahil olmak üzere
- hatalı olarak
- Artışlar
- giriş
- yerine
- interaktif
- sorunlar
- IT
- Gazeteciler
- tutmak
- bilinen
- etiketleme
- dil
- Diller
- büyük
- fırlatma
- ÖĞRENİN
- uzunluk
- Muhtemelen
- sınırlamaları
- Sınırlı
- sınırları
- Liste
- okur yazarlık
- uzun süreli
- uzun
- Düşük
- Yapımı
- işaret
- yöntemleri
- yanlış bilgi
- Misyonumuz
- model
- modelleri
- Daha
- ağlar
- nöral ağlar
- yeni
- numara
- sayılar
- ONE
- OpenAI
- organizasyonlar
- Diğer
- ana hatlar
- uzanma
- dışında
- çiftleri
- ebeveyn
- Bölüm
- gerçekleştirir
- parça
- Platon
- Plato Veri Zekası
- PlatoVeri
- Lütfen
- Nokta
- politika
- konumlandırma
- pozitif
- tahmin
- tahmin edilebilir
- tahmin
- birincil
- asal
- Programlar
- sağlamak
- sağlayıcılar
- alenen
- oran
- son
- tanımak
- tavsiye etmek
- serbest
- güvenilirlik
- güvenilir
- Araştırmacılar
- kaynak
- Kaynaklar
- yanıt
- koşu
- güvenli bir şekilde
- aynı
- görme
- hizmet
- Servis sağlayıcıları
- set
- paylaş
- kısa
- meli
- önemli ölçüde
- biraz
- Kaynak
- kaynaklar
- Öğrenciler
- gönderilen
- başarılı
- böyle
- Sistemler
- öğretmenler
- The
- Kaynak
- ve bazı Asya
- eşik
- için
- araçlar
- konu
- eğitilmiş
- Eğitim
- gerçek
- tipik
- güncellenmiş
- Güncellemeler
- us
- kullanım
- çeşitlilik
- ağ
- karşılama
- Ne
- olup olmadığını
- hangi
- süre
- irade
- sözler
- İş
- yazılı
- Yanlış
- kendiniz
- zefirnet