Kami meluncurkan pengklasifikasi yang dilatih untuk membedakan antara teks yang ditulis oleh AI dan yang ditulis oleh manusia.
Kami telah melatih pengklasifikasi untuk membedakan antara teks yang ditulis oleh manusia dan teks yang ditulis oleh AI dari berbagai penyedia. Meskipun tidak mungkin untuk mendeteksi semua teks yang ditulis oleh AI dengan andal, kami yakin pengklasifikasi yang baik dapat menginformasikan mitigasi untuk klaim palsu bahwa teks yang dihasilkan AI ditulis oleh manusia: misalnya, menjalankan kampanye misinformasi otomatis, menggunakan alat AI untuk ketidakjujuran akademik, dan memposisikan chatbot AI sebagai manusia.
Pengklasifikasi kami tidak sepenuhnya dapat diandalkan. Dalam evaluasi kami pada "rangkaian tantangan" teks bahasa Inggris, pengklasifikasi kami dengan benar mengidentifikasi 26% teks yang ditulis AI (positif benar) sebagai "kemungkinan ditulis AI," sementara salah memberi label pada teks yang ditulis manusia sebagai ditulis AI 9% dari waktu (positif palsu). Keandalan classifier kami biasanya meningkat seiring bertambahnya panjang teks masukan. Dibandingkan dengan kami classifier yang dirilis sebelumnya, pengklasifikasi baru ini secara signifikan lebih andal pada teks dari sistem AI yang lebih baru.
Kami membuat pengklasifikasi ini tersedia untuk umum guna mendapatkan masukan tentang apakah alat yang tidak sempurna seperti ini bermanfaat. Pekerjaan kami dalam mendeteksi teks yang dihasilkan AI akan berlanjut, dan kami berharap dapat berbagi metode yang lebih baik di masa mendatang.
Cobalah pengklasifikasi barang dalam proses gratis kami sendiri:
keterbatasan
Pengklasifikasi kami memiliki sejumlah batasan penting. Seharusnya tidak digunakan sebagai alat pengambilan keputusan utama, melainkan sebagai pelengkap metode lain dalam menentukan sumber suatu teks.
- Pengklasifikasi sangat tidak dapat diandalkan pada teks pendek (di bawah 1,000 karakter). Teks yang lebih panjang terkadang diberi label yang salah oleh pengklasifikasi.
- Terkadang teks yang ditulis manusia akan dilabeli dengan salah tetapi dengan percaya diri sebagai tulisan AI oleh pengklasifikasi kami.
- Sebaiknya gunakan pengklasifikasi hanya untuk teks bahasa Inggris. Performanya jauh lebih buruk dalam bahasa lain dan tidak dapat diandalkan pada kode.
- Teks yang sangat dapat diprediksi tidak dapat diidentifikasi secara andal. Misalnya, tidak mungkin memprediksi apakah daftar 1,000 bilangan prima pertama ditulis oleh AI atau manusia, karena jawaban yang benar selalu sama.
- Teks yang ditulis AI dapat diedit untuk menghindari pengklasifikasi. Pengklasifikasi seperti milik kami dapat diperbarui dan dilatih ulang berdasarkan serangan yang berhasil, tetapi tidak jelas apakah pendeteksian memiliki keuntungan dalam jangka panjang.
- Pengklasifikasi berdasarkan jaringan saraf diketahui dikalibrasi dengan buruk di luar data pelatihan mereka. Untuk masukan yang sangat berbeda dari teks dalam set pelatihan kami, pengklasifikasi terkadang sangat yakin dengan prediksi yang salah.
Melatih pengklasifikasi
Pengklasifikasi kami adalah model bahasa yang disesuaikan pada kumpulan data pasangan teks tulisan manusia dan teks tulisan AI pada topik yang sama. Kami mengumpulkan kumpulan data ini dari berbagai sumber yang kami yakini ditulis oleh manusia, seperti data prapelatihan dan demonstrasi manusia tentang petunjuk yang dikirimkan ke InstruksikanGPT. Kami membagi setiap teks menjadi prompt dan respons. Atas permintaan ini, kami menghasilkan tanggapan dari berbagai model bahasa berbeda yang dilatih oleh kami dan organisasi lain. Untuk aplikasi web kami, kami menyesuaikan ambang kepercayaan untuk menjaga tingkat positif palsu tetap rendah; dengan kata lain, kami hanya menandai teks sebagai kemungkinan ditulis AI jika pengklasifikasi sangat percaya diri.
Dampak pada pendidik dan panggilan untuk masukan
Kami menyadari bahwa mengidentifikasi teks tertulis AI telah menjadi poin diskusi penting di antara para pendidik, dan sama pentingnya adalah mengenali batasan dan dampak pengklasifikasi teks yang dihasilkan AI di kelas. Kami telah mengembangkan a sumber daya awal tentang penggunaan ChatGPT untuk pendidik, yang menguraikan beberapa penggunaan serta batasan dan pertimbangan terkait. Meskipun sumber daya ini difokuskan pada pendidik, kami berharap pengklasifikasi dan alat pengklasifikasi terkait kami akan berdampak pada jurnalis, peneliti mis/dis-informasi, dan kelompok lainnya.
Kami terlibat dengan pendidik di AS untuk mempelajari apa yang mereka lihat di kelas mereka dan untuk mendiskusikan kemampuan dan keterbatasan ChatGPT, dan kami akan terus memperluas jangkauan kami saat kami mempelajarinya. Ini adalah percakapan penting yang harus dilakukan sebagai bagian dari misi kami untuk menerapkan model bahasa besar dengan aman, dalam kontak langsung dengan komunitas yang terpengaruh.
Jika Anda terkena dampak langsung dari masalah ini (termasuk namun tidak terbatas pada guru, administrator, orang tua, siswa, dan penyedia layanan pendidikan), berikan masukan kepada kami menggunakan formulir ini. Umpan balik langsung pada sumber daya awal sangat membantu, dan kami juga menyambut sumber daya apa pun yang dikembangkan atau dianggap bermanfaat oleh pendidik (misalnya, pedoman kursus, kode kehormatan dan pembaruan kebijakan, alat interaktif, program literasi AI).
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 26%
- 7
- a
- akademik
- administrator
- Keuntungan
- AI
- AI chatbot
- Semua
- selalu
- antara
- dan
- menjawab
- aplikasi
- terkait
- Serangan
- tersedia
- berdasarkan
- karena
- Percaya
- di bawah
- antara
- memperluas
- panggilan
- tidak bisa
- kemampuan
- karakter
- ChatBot
- ChatGPT
- klaim
- kode
- Masyarakat
- dibandingkan
- Melengkapi
- kepercayaan
- yakin
- dengan penuh percaya diri
- pertimbangan
- kontak
- terus
- percakapan
- Kelas
- data
- Pengambilan Keputusan
- menyebarkan
- Deteksi
- menentukan
- dikembangkan
- berkembang
- berbeda
- langsung
- langsung
- membahas
- diskusi
- membedakan
- Terbagi
- setiap
- Pendidikan
- pendidik
- menarik
- Inggris
- sama
- evaluasi
- Bahkan
- contoh
- mengharapkan
- sangat
- umpan balik
- Pertama
- terfokus
- ditemukan
- Gratis
- dari
- sepenuhnya
- masa depan
- dihasilkan
- mendapatkan
- baik
- Grup
- pedoman
- bermanfaat
- berharap
- HTTPS
- manusia
- Manusia
- diidentifikasi
- mengidentifikasi
- mengidentifikasi
- Dampak
- dampak
- dampak
- penting
- mustahil
- ditingkatkan
- in
- Di lain
- Termasuk
- salah
- Meningkatkan
- memasukkan
- sebagai gantinya
- interaktif
- masalah
- IT
- Wartawan
- Menjaga
- dikenal
- pelabelan
- bahasa
- Bahasa
- besar
- peluncuran
- BELAJAR
- Panjang
- Mungkin
- keterbatasan
- Terbatas
- batas
- Daftar
- keaksaraan
- jangka panjang
- lagi
- Rendah
- Membuat
- tanda
- metode
- Keterangan yg salah
- Misi
- model
- model
- lebih
- jaringan
- jaringan saraf
- New
- jumlah
- nomor
- ONE
- OpenAI
- organisasi
- Lainnya
- menguraikan
- penjangkauan
- di luar
- pasang
- orangtua
- bagian
- melakukan
- bagian
- plato
- Kecerdasan Data Plato
- Data Plato
- silahkan
- Titik
- kebijaksanaan
- posisi
- positif
- meramalkan
- Bisa ditebak
- ramalan
- primer
- Perdana
- program
- memberikan
- penyedia
- di depan umum
- Penilaian
- baru
- mengenali
- sarankan
- dirilis
- keandalan
- dapat diandalkan
- peneliti
- sumber
- Sumber
- tanggapan
- berjalan
- aman
- sama
- melihat
- layanan
- penyedia jasa
- set
- Share
- Pendek
- harus
- signifikan
- beberapa
- sumber
- sumber
- Siswa
- disampaikan
- sukses
- seperti itu
- sistem
- guru
- Grafik
- Sumber
- mereka
- ambang
- untuk
- alat
- tema
- terlatih
- Pelatihan
- benar
- khas
- diperbarui
- Pembaruan
- us
- menggunakan
- variasi
- jaringan
- selamat datang
- Apa
- apakah
- yang
- sementara
- akan
- kata
- Kerja
- tertulis
- Salah
- diri
- zephyrnet.dll