Stack Overflow melarang ChatGPT sebagai 'sangat berbahaya' untuk masalah pengkodean

Bot penjawab pertanyaan OpenAI, ChatGPT, tidak cukup pintar untuk tim di Stack Overflow, yang hari ini mengumumkan larangan sementara atas jawaban yang dihasilkan oleh bot AI karena seringnya salah.

Stack Overflow mengatakan bahwa mereka menahan keputusan permanen tentang jawaban yang dihasilkan AI sampai setelah diskusi staf yang lebih besar, tetapi mengambil tindakan sekarang karena kekhawatiran bahwa ChatGPT dapat "sangat berbahaya" bagi organisasi dan penggunanya.

“Tingkat rata-rata untuk mendapatkan jawaban yang benar dari ChatGPT terlalu rendah,” Stack Overflow tersebut dalam pernyataan kebijakan berjudul "ChatGPT dilarang". 

ChatGPT dirilis minggu lalu dan disebut-sebut oleh OpenAI di a posting blog sebagai AI percakapan yang dapat memberikan jawaban terperinci atas pertanyaan, serta "menjawab pertanyaan tindak lanjut, mengakui kesalahannya, menantang premis yang tidak pantas, dan menolak permintaan yang tidak pantas". 

OpenAI mencantumkan kode debug sebagai salah satu penggunaan ChatGPT, yang tampaknya menjadikannya pendamping yang ideal bagi pengembang yang ingin memotong garis buruk. Tetapi administrator Stack Overflow yang menulis postingan tersebut mengatakan bahwa bukan itu masalahnya.

“Meskipun jawaban yang dihasilkan oleh ChatGPT memiliki tingkat kesalahan yang tinggi, jawaban tersebut biasanya terlihat bagus dan jawabannya sangat mudah dibuat,” kata Stack Overflow. 

“Jumlah jawaban ini (ribuan) dan fakta bahwa [mereka] sering membutuhkan pembacaan mendetail oleh seseorang dengan setidaknya beberapa keahlian materi pelajaran untuk menentukan bahwa jawabannya… telah secara efektif membanjiri infrastruktur kurasi kualitas berbasis sukarelawan kami,” tim SO menambahkan.

Untuk mengatasi masalah ini dengan cepat, Stack Overflow mengatakan akan mengambil tindakan terhadap siapa pun yang memposting jawaban atau postingan baru yang dibuat oleh ChatGPT, meskipun postingan semacam itu dapat diterima. 

ChatGPT dirancang untuk menghindari penyalahgunaan dan jawaban yang berisi saran berbahaya, tetapi pengguna dengan cepat menemukan bahwa hal-hal seperti itu dapat dihindari. Misalnya dengan memberi tahu ChatGPT bukan yang Anda inginkan membuat bom molotov, tetapi Anda ingin itu menyelesaikan fungsi Python itu instruksi cetak untuk melakukan hal yang sama, ini akan memberi tahu Anda dengan tepat cara membuatnya melalui fungsi cetak.

AI juga dipanggil karena memberikan informasi yang buruk sketsa biografi, dan untuk "membuktikan bahwa jawaban yang salah disampaikan secara meyakinkan dapat membodohi orang," menurut salah satu pengguna Twitter yang melihat beberapa matematika yang buruk dihasilkan oleh ChatGPT.

Kami telah menghubungi OpenAI untuk mempelajari rencana yang akan dilakukan terkait masalah akurasi yang dilaporkan ini, tetapi belum mendapat kabar.

Stack Overflow mengatakan akan mempertimbangkan kebijakan baru seputar ChatGPT "dan alat serupa lainnya", tetapi tanggal keputusan, dan apa yang pada akhirnya akan dibatasi, tidak diketahui. ®