Mozilla Developer Network, sumber daya teknis yang banyak digunakan untuk pengembang web, minggu ini memperkenalkan layanan bantuan yang disebut AI Help, mungkin tidak menyadari bahwa robot-helpernya memberikan saran yang salah.
A Masalah GitHub dibuka hari Jumat di repo MDN untuk Yari, kode platform yang mendukung MDN, menceritakan kisah yang menyedihkan.
Seorang pengembang bernama Eevee menjelaskan bahwa perilaku yang diharapkan dari MDN adalah “mengandung informasi yang benar.”
Perilaku sebenarnya dari Bantuan AI, berdasarkan ChatGPT OpenAI, tidak selalu seperti itu, catat mereka. “MDN telah menghasilkan kebohongan yang terdengar meyakinkan dan tidak ada proses nyata untuk memperbaikinya,” lapor Eevee.
Sampai saya yakin bahwa semua integrasi dan konten 'AI' telah dihapus secara permanen dari MDN, saya tidak dapat mempercayai, atau menggunakan, MDN untuk tujuan apa pun.
Seharusnya tidak seperti itu. Bantuan AI terinspirasi oleh Supabase Clippy, yang pada gilirannya terinspirasi oleh Clippy, yang mungkin Anda ingat adalah rasa malu untuk Microsoft. Jadi, mungkin hal itu sudah ditakdirkan sebelumnya.
Bantuan AI saat ini ditawarkan kepada mereka yang telah mendaftar untuk akun MDN Plus gratis (atau paket berbayar bebas iklan).
“AI Help bukan sekadar alat baru – ini adalah pendamping baru Anda dalam memecahkan masalah,” kata Hermina Condei, direktur grup produk MDN Mozilla, dalam sebuah pernyataan. posting blog awal pekan ini.
“Ini dirancang untuk mengoptimalkan proses pencarian Anda, mempercepat dan mempermudah menemukan informasi yang Anda perlukan. Begini cara kerjanya: cukup ajukan pertanyaan tentang MDN dan Bantuan AI akan bekerja. Ini menyelami gudang dokumentasi kami yang komprehensif, mengambil informasi paling relevan, dan menyajikannya kepada Anda dalam ringkasan yang ringkas.”
Bantuan AI mencakup AI Jelaskan, sebuah tombol yang meminta chatbot mempertimbangkan teks halaman web saat ini. Fungsi khusus inilah yang keluar jalur, meskipun diklaim sebagai fungsi Bantuan AI umum juga memberikan jawaban yang salah.
Mereka yang ikut serta dalam laporan bug Eevee tampaknya sedikit kritis terhadap asisten AI baru mereka.
“Minyak ular 'AI' ini lebih buruk daripada tidak berguna karena alasan yang dijelaskan di atas; contoh lain mudah dibuat,” tersebut Tuan LightningBolt. “Itu membuat MDN menjadi lebih buruk hanya dengan berada di sana.”
Or ini, dari datarocks: “Sebagai seseorang yang kadang-kadang mencoba menggunakan CSS ketika tidak ada orang lain yang tersedia dan ada sesuatu yang perlu diperbaiki, saya bergantung pada dokumen ini agar dapat diandalkan. Hal ini bahkan lebih benar saat ini dibandingkan di masa lalu, karena sohib yang dihasilkan LLM menyebar ke seluruh web. Harap pertahankan MDN sebagai sumber tepercaya dokumentasi pengembang buatan manusia.”
Yang lain melaporkan bahwa Bantuan AI bertentangan dengan dirinya sendiri, salah mengidentifikasi fungsi CSS, menjelaskan secara keliru fungsi aksesibilitas, dan secara umum tidak mengerti CSS.
Avdi Grimm menulis.
Dan beberapa pikiran dari Dalton Miner: “Saya menggunakan MDN karena komprehensif dan tepat sumber dokumentasi tanpa masalah. Saya gagal melihat bagaimana keluaran LLM yang rentan terhadap ketidakakuratan yang parah dapat memperbaikinya. Hal ini secara dramatis melemahkan kepercayaan saya terhadap MDN dan saya khawatir bahwa penyertaannya akan mendorong ketergantungan yang berlebihan pada pembuatan teks yang murah namun tidak dapat diandalkan.”
Bahkan ada perbandingan dengan Clippy asli, yang tidak dimaksudkan sebagai sanjungan.
Dan inilah pengembang Andi McClure cerca fitur Bantuan AI yang baru: “Selain masalah etika, hukum, dan reputasi di sini — secara praktis, hingga saya yakin bahwa semua integrasi dan konten 'AI' telah tetap dihapus dari MDN, saya tidak dapat mempercayai, atau menggunakan, MDN untuk tujuan apa pun. Jika Anda menaruhnya di satu tempat, bagaimana saya tahu Anda belum menaruhnya di tempat lain? Korupsi 'AI' sudah terjadi disisipkan dengan isinya. Saat ini tampaknya Anda harus mengklik di tempat tertentu yang ditandai agar konten 'AI' dapat dihasilkan, namun bagaimana saya dapat yakin bahwa hal ini akan tetap terjadi di masa mendatang?”
Komentarnya berlanjut demikian. Jika hanya seseorang bisa memiliki diramalkan ini.
Mozilla tidak segera menanggapi permintaan komentar.
Namun saat cerita ini ditulis, pengelola inti MDN, sideshowbarker, tampaknya telah memperhatikan snafu tersebut.
Perubahan tersebut tampaknya sudah terlihat pada sumbernya dua hari lalu, di e342081
— tanpa masalah terkait apa pun, hanya PR di #9188 itu sama sekali tidak mencakup diskusi atau informasi latar belakang apa pun.
Pada titik ini, menurut saya ini adalah sesuatu yang Mozilla putuskan untuk dilakukan sendiri tanpa memberikan peringatan apa pun kepada pemangku kepentingan MDN lainnya. (Saya bisa saja salah; saya sudah agak jauh — sayangnya, banyak waktu saya selama sebulan terakhir dihabiskan di tempat lain, dan hal itu menghalangi saya untuk dapat melakukan pekerjaan MDN yang biasanya saya lakukan. .)
Pokoknya, hal “Jelaskan AI” ini adalah ide yang sangat buruk, jelas — untuk alasan yang jelas (tetapi juga karena alasan spesifik yang membuat orang lain meluangkan waktu untuk menambahkan komentar pada masalah ini untuk membantu memperjelasnya).
Pada titik ini, saya setidaknya bisa berjanji bahwa saya pribadi akan mengeskalasi hal ini secara internal setinggi yang saya bisa, dengan urgensi sebanyak yang saya bisa (dan sudah mulai melakukan hal itu, bahkan sebelum memposting komentar ini) — dengan tujuan untuk menghapusnya sesegera mungkin.
Sekitar pukul 0817 UTC pada hari Sabtu, upaya sedang dilakukan untuk membatalkan fungsi Penjelasan AI. Tombol AI Jelaskan kini telah ada berhenti, untuk saat ini. ®
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Otomotif / EV, Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- BlockOffset. Modernisasi Kepemilikan Offset Lingkungan. Akses Di Sini.
- Sumber: https://go.theregister.com/feed/www.theregister.com/2023/07/03/mozilla_developer_network_adds_ai/
- :memiliki
- :adalah
- :bukan
- 7
- a
- Sanggup
- atas
- benar
- aksesibilitas
- Akun
- di seluruh
- sebenarnya
- menambahkan
- Menambahkan
- nasihat
- Setelah
- silam
- AI
- Asisten AI
- tujuan
- Semua
- sudah
- juga
- selalu
- an
- dan
- Lain
- Apa pun
- semu
- muncul
- muncul
- ADALAH
- sekitar
- AS
- Asisten
- terkait
- terjamin
- At
- tersedia
- jauh
- latar belakang
- Buruk
- berdasarkan
- BE
- karena
- menjadi
- sebelum
- makhluk
- Bit
- Bug
- tapi
- tombol
- by
- bernama
- CAN
- tidak bisa
- kasus
- perubahan
- ChatBot
- ChatGPT
- murah
- diklaim
- jelas
- Jelas
- Klik
- CO
- kode
- komentar
- komentar
- teman
- luas
- kepercayaan
- mengandung
- Konten
- terus
- meyakinkan
- Core
- benar
- Korupsi
- bisa
- membuat
- kritis
- CSS
- terbaru
- Sekarang
- Hari
- dasawarsa
- memutuskan
- teguh
- dijelaskan
- dirancang
- Pengembang
- pengembang
- MELAKUKAN
- Kepala
- diskusi
- do
- dokumentasi
- doesn
- melakukan
- secara dramatis
- Terdahulu
- Mudah
- usaha
- lain
- di tempat lain
- etis
- Bahkan
- contoh
- diharapkan
- Menjelaskan
- Menjelaskan
- GAGAL
- takut
- Fitur
- Menemukan
- tetap
- Untuk
- Gratis
- Jumat
- dari
- fungsi
- fungsi
- masa depan
- Umum
- umumnya
- menghasilkan
- dihasilkan
- generasi
- mendapatkan
- mendapatkan
- memberikan
- Pemberian
- Pergi
- akan
- Kelompok
- Memiliki
- membantu
- di sini
- High
- -nya
- Seterpercayaapakah Olymp Trade? Kesimpulan
- HTTPS
- manusia
- i
- ide
- if
- segera
- in
- termasuk
- penyertaan
- Info
- informasi
- terinspirasi
- sebagai gantinya
- integrasi
- dimaksudkan
- internal
- ke
- diperkenalkan
- isu
- masalah
- IT
- NYA
- jpg
- hanya
- Menjaga
- Jenis
- Tahu
- Terakhir
- paling sedikit
- Informasi
- berbohong
- LLM
- TERLIHAT
- Lot
- membuat
- MEMBUAT
- Membuat
- ditandai
- Mungkin..
- mdn
- me
- Microsoft
- buruh tambang
- Bulan
- lebih
- paling
- Mozilla
- banyak
- my
- nama
- Perlu
- kebutuhan
- jaringan
- New
- tidak
- biasanya
- Melihat..
- sekarang
- Jelas
- of
- lepas
- ditawarkan
- Minyak
- on
- ONE
- hanya
- OpenAI
- dibuka
- Optimize
- or
- asli
- Lainnya
- Lainnya
- jika tidak
- kami
- keluaran
- lebih
- sendiri
- halaman
- dibayar
- tertentu
- lalu
- Konsultan Ahli
- mungkin
- tetap
- Sendiri
- Tempat
- Tempat
- rencana
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- silahkan
- plus
- Titik
- mungkin
- pr
- praktis
- disajikan
- hadiah
- pemecahan masalah
- proses
- proses
- Produk
- janji
- mendorong
- tujuan
- menempatkan
- pertanyaan
- Cepat
- rel
- alasan
- terdaftar
- tinggal
- Dihapus
- melaporkan
- laporan
- gudang
- permintaan
- sumber
- Menanggapi
- s
- Sabtu
- Pencarian
- melihat
- tampaknya
- layanan
- hanya
- So
- beberapa
- Seseorang
- sesuatu
- segera
- sumber
- sumber
- berbicara
- tertentu
- menghabiskan
- menghabiskan
- Spread
- stakeholder
- mulai
- Cerita
- RINGKASAN
- pendukung
- Seharusnya
- yakin
- diambil
- kisah
- Teknis
- mengatakan
- dari
- bahwa
- Grafik
- informasi
- mereka
- Mereka
- Sana.
- Ini
- mereka
- hal
- ini
- minggu ini
- itu
- meskipun?
- waktu
- untuk
- hari ini
- alat
- benar
- Kepercayaan
- Terpercaya
- MENGHIDUPKAN
- dua
- memahami
- Sedang berlangsung
- sayangnya
- sampai
- urgensi
- menggunakan
- bekas
- UTC
- Ve
- adalah
- bukan
- Cara..
- jaringan
- minggu
- Menimbang
- pergi
- ketika
- yang
- SIAPA
- sangat
- akan
- dengan
- tanpa
- Kerja
- bekerja
- lebih buruk
- tertulis
- Salah
- Kamu
- Anda
- zephyrnet.dll