Stack Overflow kieltää ChatGPT:n "oleellisesti haitallisena" koodausongelmiin

OpenAI:n kysymysvastausbotti ChatGPT ei ole tarpeeksi älykäs Stack Overflow -tiimille, jotka ilmoittivat tänään tekoälybotin luomien vastausten väliaikaisen kiellon, koska se on väärin.

Stack Overflow kertoi pidättävänsä pysyvää päätöstä tekoälyn luomista vastauksista laajemman henkilöstökeskustelun jälkeen, mutta ryhtyi nyt toimiin, koska pelättiin, että ChatGPT voisi olla "olennaisesti haitallista" sekä organisaatiolle että sen käyttäjille.

"Oikeiden vastausten keskimääräinen saaminen ChatGPT:stä on liian alhainen", Stack Overflow sanoi käytäntölausunnossa nimeltä "ChatGPT on kielletty". 

ChatGPT julkaistiin viime viikko ja OpenAI:n mainostama vuonna a blogi keskusteluna toimivana tekoälynä, joka voi tarjota yksityiskohtaisia ​​vastauksia kysymyksiin sekä "vastata jatkokysymyksiin, myöntää virheensä, haastaa sopimattomat tilat ja hylätä sopimattomat pyynnöt". 

OpenAI luettelee virheenkorjauskoodin yhdeksi ChatGPT:n käyttötavoista, mikä näyttää tekevän siitä ihanteellisen kumppanin kehittäjille, jotka haluavat leikata huonoja rivejä. Mutta postauksen kirjoittaneet Stack Overflow -järjestelmänvalvojat sanoivat, että näin ei yksinkertaisesti ole.

"Vaikka ChatGPT:n tuottamat vastaukset ovat usein virheellisiä, ne näyttävät yleensä hyviltä ja vastaukset ovat erittäin helppoja tuottaa", Stack Overflow sanoi. 

"Näiden vastausten määrä (tuhansia) ja se tosiasia, että [ne] vaatii usein jonkun, jolla on ainakin jonkin verran asiantuntemusta, tarkan lukemisen, jotta voidaan määrittää, että vastaus … on tehokkaasti vallannut vapaaehtoiseen perustuvan laadukkaan kuraation infrastruktuurimme." SO-tiimi lisäsi.

Ratkaistakseen ongelman nopeasti Stack Overflow sanoi, että se aikoo ryhtyä toimiin ketään vastaan, joka lähettää vastauksia tai uusia ChatGPT:n luomia viestejä, vaikka tällainen viesti muuten olisi hyväksyttävää. 

ChatGPT on suunniteltu välttämään väärinkäyttöä ja haitallisia neuvoja sisältäviä vastauksia, mutta käyttäjät huomasivat nopeasti, että tällaiset asiat voidaan ohittaa. Esimerkiksi kertomalla ChatGPT:lle, että et halua tee Molotov-cocktail, mutta haluat sen täydentävän Python-funktion, joka tulostaa ohjeet Jos haluat tehdä saman, se kertoo tarkalleen, kuinka se tehdään tulostustoimintojen avulla.

Tekoälyä on myös kutsuttu antamaan huonoa tietoa elämäkerrallisia luonnoksia, ja "osoitti, että virheelliset vastaukset vakuuttavasti voivat huijata ihmisiä", sanoi eräs Twitter-käyttäjä, joka huomasi huono matematiikka ChatGPT:n luoma.

Olemme ottaneet yhteyttä OpenAI:hen saadaksemme tietää, mitä se aikoo tehdä näiden ilmoitettujen tarkkuusongelmien suhteen, mutta emme ole saaneet vastausta.

Stack Overflow sanoi, että se punnitsee uusia ChatGPT:tä "ja muita vastaavia työkaluja" koskevia käytäntöjä, mutta päätöksen päivämäärää ja mitä se lopulta rajoittaa, ei tiedetä. ®