Mozilla Developer Network, una risorsa tecnica ampiamente utilizzata dagli sviluppatori web, questa settimana ha introdotto un servizio di assistenza chiamato AI Help, forse ignaro del fatto che il suo robo-helper fornisce consigli errati.
A Problema GitHub aperto venerdì sul repository di MDN per Yari, il codice della piattaforma che supporta MDN, racconta la triste storia.
Uno sviluppatore che si fa chiamare Eevee spiega che il comportamento previsto di MDN è "contenere informazioni corrette".
Il comportamento effettivo di AI Help, basato sul ChatGPT di OpenAI, non è sempre quello, notano. "MDN ha generato una bugia apparentemente convincente e non esiste alcun processo apparente per correggerla", riferisce Eevee.
Fino a quando non mi sarà stato assicurato che tutta l'integrazione e i contenuti "AI" saranno stati rimossi in modo permanente da MDN, non potrò fidarmi o utilizzare MDN per alcuno scopo.
Non doveva essere così. AI Help è stato ispirato da Supabase Clippy, che a sua volta è stato ispirato da Clippy, che come ricorderete era un imbarazzo perMicrosoft. Quindi, forse, dopotutto era preordinato.
AI Help è attualmente offerto a coloro che si sono registrati per un account MDN Plus gratuito (o un piano a pagamento senza pubblicità).
"AI Help non è solo un nuovo strumento: è il tuo nuovo compagno per la risoluzione dei problemi", ha dichiarato Hermina Condei, direttrice del gruppo di prodotti MDN di Mozilla, in un post sul blog all'inizio di questa settimana.
“È progettato per ottimizzare i processi di ricerca, rendendo facile e veloce trovare le informazioni di cui hai bisogno. Ecco come funziona: fai semplicemente una domanda su MDN e AI Help si mette al lavoro. Si tuffa nel nostro archivio completo di documentazione, recupera le informazioni più pertinenti e te le presenta in un breve riepilogo.
AI Help include AI Explain, un pulsante che richiede al chatbot di valutare il testo della pagina web corrente. È questa particolare funzione che è andata fuori dai binari, anche se viene rivendicata la funzione generale di Aiuto AI dà anche risposte sbagliate.
Coloro che intervengono sulla segnalazione di bug di Eevee sembrano essere solo un pochino critici nei confronti del loro nuovo assistente AI.
“Questo olio di serpente 'AI' è peggio che inutile per le ragioni sopra descritte; altri esempi sono banali da creare”, disse Signor Fulmine. "Il solo fatto di essere lì peggiora MDN."
Or questo, da datarocks: “Essendo qualcuno che occasionalmente si immerge nei CSS quando nessun altro è disponibile e una cosa deve essere risolta, dipendo da questi documenti per essere affidabile. Questo è ancora più vero oggi che in passato, poiché l'amicizia generata da LLM si diffonde sul web. Si prega di mantenere MDN come fonte affidabile di documentazione per sviluppatori generata da esseri umani.
Altri riferiscono che AI Help si contraddice, identifica erroneamente Funzioni CSS, spiega erroneamente funzioni di accessibilità e in generale non capisce i CSS.
Avdi Grimm ha scritto, "Non ho passato un decennio cercando di convincere le persone a usare MDN per palate di testi di merda di bassa qualità per l'agricoltura SEO su W3Schools, solo per ritrovarsi davanti a palate di testi di merda di intelligenza artificiale di bassa qualità su MDN."
E alcuni pensieri da Dalton Miner: “Utilizzo MDN perché è un servizio completo e preciso fonte di documentazione senza lanugine. Non riesco a vedere come l'output LLM incline a gravi imprecisioni possa migliorarlo. Indebolisce drasticamente la mia fiducia in MDN e temo che la sua inclusione promuoverà un eccessivo affidamento sulla generazione di testo economica ma inaffidabile.
C'era anche un confronto con l'originale Clippy, che non era inteso come adulazione.
Ed ecco lo sviluppatore Andi McClure biasimare la nuova funzione AI Help: "A parte le questioni etiche, legali e di reputazione, in pratica finché non mi sarà stato assicurato che tutta l'integrazione e i contenuti dell'AI sono stati permanentemente rimosso da MDN, non posso fidarmi o utilizzare MDN per nessuno scopo. Se lo metti in un posto, come faccio a sapere che non l'hai messo in un altro? La corruzione dell'"AI" esiste già intercalati con il contenuto. Attualmente sembra che sia necessario fare clic in punti specifici contrassegnati per generare il contenuto "AI", ma come posso essere sicuro che rimanga così in futuro?"
I commenti continuano così. Se solo qualcuno potuto avere previsto Questo.
Mozilla non ha risposto immediatamente a una richiesta di commento.
Tuttavia, mentre questa storia veniva scritta, un manutentore principale di MDN, sideshowbarker, sembra aver notato l'intoppo.
Il cambiamento sembra essere arrivato alle fonti due giorni fa, in e342081
- senza alcun problema associato, invece solo un PR a #9188 ciò non include assolutamente alcuna discussione o informazione di base di alcun tipo.
A questo punto, mi sembra che sia qualcosa che Mozilla ha deciso di fare da solo, senza dare alcun avvertimento di alcun tipo agli altri stakeholder di MDN. (Potrei sbagliarmi; sono stato via per un po' — sfortunatamente molto del mio tempo nell'ultimo mese è stato speso altrove e questo mi ha impedito di poter svolgere il lavoro su MDN che altrimenti avrei normalmente svolto .)
Comunque, questa cosa di "AI Explain" è una pessima idea, chiaramente - per ovvie ragioni (ma anche per ragioni specifiche per le quali altri hanno dedicato del tempo ad aggiungere commenti a questo problema per aiutare a chiarire).
A questo punto, posso almeno promettere che personalmente intensificherò la questione internamente il più in alto possibile, con la massima urgenza possibile (e ho già iniziato a farlo, prima ancora di pubblicare questo commento) - con l'obiettivo di rimuoverlo assolutamente il prima possibile.
Intorno alle 0817 UTC di sabato, era in corso uno sforzo annullare la funzione AI Explain. Il pulsante Spiega AI è ora stato in pausa, per il momento. ®
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Automobilistico/VE, Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- BlockOffset. Modernizzare la proprietà della compensazione ambientale. Accedi qui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2023/07/03/mozilla_developer_network_adds_ai/
- :ha
- :È
- :non
- 7
- a
- capace
- sopra
- assolutamente
- accessibilità
- Il mio account
- operanti in
- presenti
- aggiungere
- Aggiunge
- consigli
- Dopo shavasana, sedersi in silenzio; saluti;
- fa
- AI
- Assistente AI
- puntare
- Tutti
- già
- anche
- sempre
- an
- ed
- Un altro
- in qualsiasi
- apparente
- apparire
- appare
- SONO
- in giro
- AS
- Assistant
- associato
- assicurato
- At
- disponibile
- lontano
- sfondo
- Vasca
- basato
- BE
- perché
- stato
- prima
- essendo
- Po
- Insetto
- ma
- pulsante
- by
- detto
- Materiale
- non può
- Custodie
- il cambiamento
- chatbot
- ChatGPT
- economico
- rivendicato
- pulire campo
- chiaramente
- clicca
- CO
- codice
- commento
- Commenti
- compagno
- globale
- fiducia
- contenere
- contenuto
- continua
- convincere
- Nucleo
- correggere
- Corruzione
- potuto
- creare
- critico
- CSS
- Corrente
- Attualmente
- Giorni
- decennio
- deciso
- affidabile
- descritta
- progettato
- Costruttori
- sviluppatori
- DID
- Direttore
- discussione
- do
- documentazione
- doesn
- fare
- drammaticamente
- In precedenza
- facile
- sforzo
- altro
- altrove
- etico
- Anche
- Esempi
- previsto
- Spiegare
- Spiega
- FAIL
- paura
- caratteristica
- Trovare
- fisso
- Nel
- Gratis
- Venerdì
- da
- function
- funzioni
- futuro
- Generale
- generalmente
- generare
- generato
- ELETTRICA
- ottenere
- ottenere
- dà
- Dare
- va
- andando
- Gruppo
- Avere
- Aiuto
- qui
- Alta
- il suo
- Come
- HTTPS
- umano
- i
- idea
- if
- subito
- in
- inclusi
- inclusione
- info
- informazioni
- fonte di ispirazione
- invece
- integrazione
- destinato
- internamente
- ai miglioramenti
- introdotto
- problema
- sicurezza
- IT
- SUO
- jpg
- ad appena
- mantenere
- Genere
- Sapere
- Cognome
- meno
- Legale
- Bugia
- LLM
- SEMBRA
- lotto
- make
- FA
- Fare
- segnato
- Maggio..
- MDN
- me
- Microsoft
- minatore
- Mese
- Scopri di più
- maggior parte
- Mozilla
- molti
- my
- Nome
- Bisogno
- esigenze
- Rete
- New
- no
- normalmente
- Avviso..
- adesso
- ovvio
- of
- MENO
- offerto
- Olio
- on
- ONE
- esclusivamente
- OpenAI
- ha aperto
- OTTIMIZZA
- or
- i
- Altro
- Altri
- altrimenti
- nostro
- produzione
- ancora
- proprio
- pagina
- pagato
- particolare
- passato
- Persone
- Forse
- permanentemente
- Personalmente
- posto
- Partner
- piano
- piattaforma
- Platone
- Platone Data Intelligence
- PlatoneDati
- per favore
- più
- punto
- possibile
- pr
- in pratica
- presentata
- regali
- problem-solving
- processi
- i processi
- Prodotto
- PROMETTIAMO
- promuoverlo
- scopo
- metti
- domanda
- Presto
- rotaie
- motivi
- registrato
- rimanere
- rimosso
- rapporto
- Report
- deposito
- richiesta
- risorsa
- Rispondere
- s
- sabato
- Cerca
- vedere
- sembra
- servizio
- semplicemente
- So
- alcuni
- Qualcuno
- qualcosa
- presto
- Fonte
- fonti
- parlando
- specifico
- spendere
- esaurito
- spread
- stakeholder
- iniziato
- Storia
- SOMMARIO
- Supporto
- suppone
- sicuro
- preso
- racconto
- Consulenza
- dice
- di
- che
- I
- le informazioni
- loro
- Li
- Là.
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- cosa
- questo
- questa settimana
- quelli
- anche se?
- tempo
- a
- oggi
- vero
- Affidati ad
- di fiducia
- TURNO
- seconda
- capire
- In corso
- purtroppo
- fino a quando
- urgenza
- uso
- utilizzato
- UTC
- Ve
- Prima
- non lo era
- Modo..
- sito web
- settimana
- pesare
- è andato
- quando
- quale
- OMS
- ampiamente
- volere
- con
- senza
- Lavora
- lavori
- peggio
- scritto
- Wrong
- Tu
- Trasferimento da aeroporto a Sharm
- zefiro