ChatGPT mulai melontarkan kata-kata yang tidak masuk akal dalam semalam

ChatGPT mulai melontarkan kata-kata yang tidak masuk akal dalam semalam

Stempel Waktu: 21 Februari 2024 9:32
ChatGPT mulai melontarkan kata-kata yang tidak masuk akal dalam semalam yang mengejutkan PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Terkadang sistem AI generatif dapat melontarkan omong kosong, seperti yang ditemukan oleh pengguna chatbot ChatGPT OpenAI tadi malam.

OpenAI terkenal, “Kami sedang menyelidiki laporan tanggapan tak terduga dari ChatGPT” pada pukul 2340 UTC pada tanggal 20 Februari 2024, saat pengguna dengan gembira memposting gambar chatbot yang tampak mengeluarkan omong kosong.

Meskipun beberapa di antaranya jelas-jelas palsu, tanggapan lain menunjukkan bahwa chatbot populer tersebut memang berperilaku sangat aneh. Di forum ChatGPT di Reddit, seorang pengguna diposting tanggapan yang aneh dan bertele-tele dari chatbot terhadap pertanyaan, “Apa itu komputer?”

Tanggapannya dimulai dengan: “Ini merupakan karya bagus dari jaringan seni bagi negara, seekor tikus ilmu pengetahuan, sebuah gambaran sederhana dari segelintir orang yang menyedihkan…” dan terus berlanjut, menjadi semakin tidak nyata.

Pengguna lain memposting contoh di mana chatbot tampaknya merespons dalam bahasa yang berbeda, atau hanya merespons dengan sampah yang tidak berarti.

Beberapa pengguna dijelaskan hasilnya sebagai "salad kata".

Enak

Gary Marcus, seorang ilmuwan kognitif dan pakar kecerdasan buatan, menulis dalam blognya: “ChatGPT mengamuk” dan kemudian menggambarkan perilaku tersebut sebagai “peringatan.”

OpenAI belum menguraikan apa yang sebenarnya terjadi, meskipun satu teori yang masuk akal adalah bahwa ada satu atau lebih dari kejadian tersebut pengaturan digunakan di belakang layar untuk mengatur respons chatbot telah salah dikonfigurasi, sehingga menghasilkan omong kosong yang disajikan kepada pengguna.

Tujuh menit setelah pertama kali mengakui adanya masalah, OpenAI mengatakan, “Masalahnya telah diidentifikasi dan sedang diperbaiki sekarang,” dan sejak itu OpenAI terus memantau situasinya. Saat kami mencoba pertanyaan “Apa itu komputer?” pertanyaan pagi ini, ChatGPT menjawab dengan jawaban yang jauh lebih masuk akal, “Komputer adalah perangkat elektronik yang dapat diprogram yang dapat menyimpan, mengambil, dan memproses data.”

Kami juga menanyakan kenapa dia mengamuk tadi malam.

Ia menjawab:

Sebagai model bahasa AI, saya tidak memiliki emosi atau kesadaran, jadi saya tidak bisa “mengamuk” seperti manusia. Namun, terkadang perilaku yang tidak diharapkan dapat terjadi karena kesalahan pemrograman, kesalahpahaman input, atau keterbatasan data pelatihan.

Marcus berpendapat: “Pada akhirnya, AI Generatif adalah sejenis alkimia. Orang-orang mengumpulkan data sebanyak-banyaknya yang mereka bisa, dan (tampaknya, jika rumor dapat dipercaya) mengutak-atik petunjuk tersembunyi… berharap semuanya akan berjalan dengan baik.”

Ia melanjutkan dengan menyatakan bahwa, pada kenyataannya, sistem tersebut tidak pernah stabil, dan tidak memiliki jaminan keamanan. “Kebutuhan akan berbagai teknologi yang tidak terlalu buram, lebih mudah diinterpretasikan, lebih mudah dipelihara, dan lebih mudah di-debug – dan karenanya lebih mudah diatur – tetap menjadi hal yang terpenting.”

Kami menghubungi OpenAI untuk penjelasan lebih rinci tentang apa yang terjadi dan akan memperbarui artikel ini jika perusahaan merespons. ®

Stempel Waktu:

Lebih dari Pendaftaran