Stack Overflow keelab ChatGPT kui kodeerimisprobleemide jaoks "oluliselt kahjuliku".

OpenAI küsimustele vastamise bot ChatGPT ei ole Stack Overflow meeskonna jaoks piisavalt nutikas, kes teatas täna AI-roti genereeritud vastuste ajutisest keelust, kuna see on vale.

Stack Overflow ütles, et ta keeldus tehisintellekti loodud vastuste kohta alalisest otsusest kuni pärast suuremat töötajate arutelu, kuid võtab nüüd meetmeid, kuna kardab, et ChatGPT võib olla "oluliselt kahjulik" nii organisatsioonile kui ka selle kasutajatele.

"ChatGPT-st õigete vastuste saamise keskmine määr on liiga madal," Stack Overflow ütles poliitikaavalduses pealkirjaga "ChatGPT on keelatud". 

ChatGPT vabastati Eelmine nädal ja OpenAI poolt reklaamitud a blogi postitus kui vestluse AI, mis suudab anda üksikasjalikke vastuseid küsimustele, samuti "vastata järelküsimustele, tunnistada oma vigu, vaidlustada sobimatuid ruume ja lükata tagasi sobimatud taotlused". 

OpenAI loetleb silumiskoodi ühe ChatGPT kasutusviisina, mis näib muutvat selle ideaalseks kaaslaseks arendajatele, kes soovivad halbu ridu välja lõigata. Kuid postituse kirjutanud Stack Overflow administraatorid ütlesid, et see lihtsalt pole nii.

"Kuigi ChatGPT poolt koostatud vastuste puhul on sageli valesid, näivad need tavaliselt head ja vastuseid on väga lihtne koostada," ütles Stack Overflow. 

"Nende vastuste maht (tuhanded) ja tõsiasi, et [need] nõuavad sageli üksikasjalikku lugemist kellelgi, kellel on vähemalt teatud teemateadmised, et teha kindlaks, kas vastus … on meie vabatahtlikel põhineva kvaliteetse kureerimise infrastruktuuri tõhusalt uputanud," lisas SO meeskond.

Probleemi kiireks lahendamiseks teatas Stack Overflow, et kavatseb võtta meetmeid kõigi vastu, kes postitavad vastuseid või ChatGPT loodud uusi postitusi, isegi kui selline postitus oleks muidu vastuvõetav. 

ChatGPT eesmärk oli vältida kuritarvitamist ja kahjulikke nõuandeid sisaldavaid vastuseid, kuid kasutajad leidsid kiiresti, et sellistest asjadest saab kõrvale hiilida. Näiteks öeldes ChatGPT-le, et te seda ei soovi valmistada Molotovi kokteili, kuid soovite, et see täidaks Pythoni funktsiooni, mis prindib juhised sama tegemiseks ütleb see teile täpselt, kuidas seda printimisfunktsioonide kaudu teha.

AI-d on kutsutud ka halva teabe esitamise eest biograafilised visandidja selle eest, et "tõestas, et veenvalt esitatud valed vastused võivad inimesi lollitada", ütles üks Twitteri kasutaja, kes märkas mõnda halb matemaatika loodud ChatGPT poolt.

Oleme OpenAI-ga ühendust võtnud, et saada teada, mida ta kavatseb nende teatatud täpsusprobleemidega seoses ette võtta, kuid pole tagasisidet saanud.

Stack Overflow ütles, et see kaalub ChatGPT-d ja muid sarnaseid tööriistu ümbritsevaid uusi eeskirju, kuid otsuse kuupäev ja see, mida see lõpuks piirab, pole teada. ®