A Mozilla Developer Network, a webfejlesztők széles körben használt technikai erőforrása, ezen a héten bevezette az AI Help nevű kisegítő szolgáltatást, talán nem is tudta, hogy a robot-segítő helytelen tanácsokat ad.
A GitHub probléma opened Friday on MDN’s repo for Yari, the platform code supporting MDN, tells the sorry tale.
A developer who goes by the name Eevee explains that the expected behavior of MDN is “to contain correct information.”
The actual behavior of AI Help, based on OpenAI’s ChatGPT, is not always that, they note. “MDN has generated a convincing-sounding lie and there is no apparent process for correcting it,” reports Eevee.
Until I have been assured that all ‘AI’ integration and content has been permanently removed from MDN, I cannot trust, or use, MDN for any purpose.
It wasn’t supposed to be that way. AI Help was inspired by Supabase Clippy, amit viszont az ihletett Clippy, amely, mint emlékszel, egy volt zavar a Microsoft számára. Szóval, talán mégis előre elrendelték.
Az AI-súgó jelenleg azoknak érhető el, akik ingyenes MDN Plus-fiókot (vagy hirdetésmentes fizetős csomagot) regisztráltak.
“AI Help is not just a new tool – it’s your new problem-solving companion,” declared Hermina Condei, director of Mozilla’s MDN product group, in a blogbejegyzés korábban a héten.
“It is designed to optimize your search processes, making it quick and easy to find the information you need. Here’s how it works: simply ask a question on MDN and AI Help gets to work. It dives into our comprehensive repository of documentation, retrieves the most pertinent information, and presents it to you in a succinct summary.”
AI Help includes AI Explain, a button that prompts the chatbot to weigh in on the current web page text. It’s this particular function that went off the rails, though it’s claimed the general AI Help function rossz válaszokat is ad.
Those chiming in on Eevee’s bug report appear to be just a wee bit critical of their new AI assistant.
“This ‘AI’ snake oil is worse than useless for the reasons described above; other examples are trivial to create,” mondott MrLightningBolt. “It makes MDN worse just being there.”
Or ezt, from datarocks: “As someone who occasionally dips his toes in CSS when no one else is available and a thing needs to be fixed, I depend on these docs to be dependable. This is even more true today than it was in the past, as LLM generated chum spreads across the web. Please keep MDN as a trusted source of human generated developer documentation.”
Mások arról számolnak be, hogy az AI Help önmagának mond ellent, rosszul azonosítja CSS funkciók, tévesen magyarázza akadálymentesítési funkciók, és általában doesn’t understand CSS.
Avdi Grimm írt, “I didn’t spend a decade trying to convince people to use MDN over the shovelfuls of low-quality SEO-farming craptext on W3Schools, only for them to be presented with shovelfuls of low-quality AI craptext on MDN.”
És néhány gondolatok from Dalton Miner: “I use MDN because it’s a comprehensive and pontos source of documentation with no fluff. I fail to see how LLM output prone to egregious inaccuracies improves that. It dramatically weakens my confidence in MDN and I fear that its inclusion will promote an over-reliance on cheap but unreliable text generation.”
Volt még egy összehasonlítani az eredeti Clippy-vel, amit nem hízelgésnek szántak.
And here’s developer Andi McClure bárányozás the new AI Help feature: “Aside from the ethical, legal and reputational issues here — practically speaking, until I have been assured that all ‘AI’ integration and content has been tartósan removed from MDN, I cannot trust, or use, MDN for any purpose. If you put it in one place, how do I know you have not put it in another? The ‘AI’ corruption is already összefonódik a tartalommal. Currently it seems you have to click in specific marked places to get the ‘AI’ content to generate, but how can I be sure that this will remain the case in future?”
A kommentek így folytatódnak. Csak ha valaki tudott ajánlatunkra előre látott ez.
A Mozilla nem válaszolt azonnal a megjegyzéskérésre.
A történet írásakor azonban úgy tűnik, hogy az MDN egyik fő karbantartója, a sideshowbarker felfigyelt a snafura.
Úgy tűnik, a változás két napja érkezett a forrásokhoz e342081
- minden kapcsolódó probléma nélkül, ehelyett csak egy PR a címen #9188 amely egyáltalán nem tartalmaz vitát vagy háttérinformációkat.
At this point, it looks to me to be something that Mozilla decided to do on their own without giving any heads-up of any kind to any other MDN stakeholders. (I could be wrong; I’ve been away a bit — a lot of my time over the last month has been spent elsewhere, unfortunately, and that’s prevented me from being able to be doing MDN work I’d have otherwise normally been doing.)
Különben is, this “AI Explain” thing is a monumentally bad idea, egyértelműen – nyilvánvaló okok miatt (de azon konkrét okok miatt is, amelyek miatt másoknak is időt szakítottak arra, hogy megjegyzéseket fűzzenek ehhez a kérdéshez a tisztázás érdekében).
At this point, I can at least promise that I’m personally going to escalate this internally as high as I can, with as much urgency as I can (and have already started doing that, before even posting this comment) — with the aim of getting it removed absolutely as soon as possible.
Szombaton 0817 UTC körüli állapot szerint az erőfeszítés folyamatban volt visszavonni az AI magyarázata funkció. A mesterséges intelligencia magyarázata gomb most már megjelent szünetel, egyelőre. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2023/07/03/mozilla_developer_network_adds_ai/
- :van
- :is
- :nem
- 7
- a
- Képes
- felett
- teljesen
- megközelíthetőség
- Fiók
- át
- tényleges
- hozzá
- Hozzáteszi
- tanács
- Után
- Augusztus
- AI
- AI asszisztens
- cél
- Minden termék
- már
- Is
- mindig
- an
- és a
- Másik
- bármilyen
- látszólagos
- megjelenik
- Megjelenik
- VANNAK
- körül
- AS
- Helyettes
- társult
- biztosított
- At
- elérhető
- el
- háttér
- Rossz
- alapján
- BE
- mert
- óta
- előtt
- hogy
- Bit
- Bogár
- de
- gomb
- by
- hívott
- TUD
- nem tud
- eset
- változik
- chatbot
- ChatGPT
- olcsó
- azt állította,
- világos
- világosan
- kettyenés
- CO
- kód
- megjegyzés
- Hozzászólások
- társ
- átfogó
- bizalom
- tartalmaz
- tartalom
- folytatódik
- meggyőz
- Mag
- kijavítására
- vesztegetés
- tudott
- teremt
- kritikai
- CSS
- Jelenlegi
- Jelenleg
- Nap
- évtized
- határozott
- megbízható
- leírt
- tervezett
- Fejlesztő
- fejlesztők
- DID
- Igazgató
- vita
- do
- dokumentáció
- nem
- Ennek
- drámaian
- Korábban
- könnyű
- erőfeszítés
- más
- máshol
- etikai
- Még
- példák
- várható
- Magyarázza
- Elmagyarázza
- FAIL
- félelem
- Funkció
- Találjon
- rögzített
- A
- Ingyenes
- Péntek
- ból ből
- funkció
- funkciók
- jövő
- általános
- általában
- generál
- generált
- generáció
- kap
- szerzés
- ad
- Giving
- Goes
- megy
- Csoport
- Legyen
- segít
- itt
- Magas
- övé
- Hogyan
- HTTPS
- emberi
- i
- ötlet
- if
- azonnal
- in
- magában foglalja a
- befogadás
- info
- információ
- inspirálta
- helyette
- integráció
- szándékolt
- belsőleg
- bele
- Bevezetett
- kérdés
- kérdések
- IT
- ITS
- jpg
- éppen
- Tart
- Kedves
- Ismer
- keresztnév
- legkevésbé
- Jogi
- fekszik
- LLM
- MEGJELENÉS
- Sok
- csinál
- KÉSZÍT
- Gyártás
- megjelölt
- Lehet..
- MDN
- me
- microsoft
- bányász
- Hónap
- több
- a legtöbb
- Mozilla
- sok
- my
- név
- Szükség
- igények
- hálózat
- Új
- nem
- rendszerint
- Értesítés..
- Most
- Nyilvánvaló
- of
- kedvezmény
- felajánlott
- Olaj
- on
- ONE
- csak
- OpenAI
- nyitott
- Optimalizálja
- or
- eredeti
- Más
- Egyéb
- másképp
- mi
- teljesítmény
- felett
- saját
- oldal
- fizetett
- különös
- múlt
- Emberek (People)
- talán
- tartósan
- Személyesen
- Hely
- Helyek
- terv
- emelvény
- Plató
- Platón adatintelligencia
- PlatoData
- kérem
- plusz
- pont
- lehetséges
- pr
- gyakorlatilag
- bemutatott
- ajándékot
- problémamegoldás
- folyamat
- Folyamatok
- Termékek
- ígéret
- kellene támogatnia,
- cél
- tesz
- kérdés
- Quick
- sínek
- miatt
- nyilvántartott
- marad
- eltávolított
- jelentést
- Jelentések
- raktár
- kérni
- forrás
- Reagálni
- s
- szombat
- Keresés
- lát
- Úgy tűnik,
- szolgáltatás
- egyszerűen
- So
- néhány
- Valaki
- valami
- nemsokára
- forrás
- Források
- beszélő
- különleges
- költ
- költött
- Kenhető
- érdekeltek
- kezdődött
- Történet
- ÖSSZEFOGLALÓ
- Támogató
- feltételezett
- biztos
- meghozott
- mese
- Műszaki
- megmondja
- mint
- hogy
- A
- az információ
- azok
- Őket
- Ott.
- Ezek
- ők
- dolog
- ezt
- ezen a héten
- azok
- bár?
- idő
- nak nek
- Ma
- szerszám
- igaz
- Bízzon
- Megbízható
- FORDULAT
- kettő
- megért
- úton
- sajnálatos módon
- -ig
- sürgősség
- használ
- használt
- UTC
- Ve
- volt
- nem volt
- Út..
- háló
- hét
- mérjünk
- ment
- amikor
- ami
- WHO
- széles körben
- lesz
- val vel
- nélkül
- Munka
- művek
- rosszabb
- írott
- Rossz
- te
- A te
- zephyrnet