Stack Overflow prepoveduje ChatGPT kot "precej škodljiv" za težave s kodiranjem

OpenAI-jev bot za odgovarjanje na vprašanja, ChatGPT, ni dovolj pameten za ekipo Stack Overflow, ki je danes objavila začasno prepoved odgovorov, ki jih je ustvaril AI bot zaradi tega, kako pogosto se moti.

Stack Overflow je dejal, da zadržuje trajno odločitev o odgovorih, ustvarjenih z umetno inteligenco, do obsežnejše razprave osebja, vendar ukrepa zdaj zaradi bojazni, da bi lahko bil ChatGPT "znatno škodljiv" tako za organizacijo kot za njene uporabnike.

»Povprečna stopnja pridobivanja pravilnih odgovorov iz ChatGPT je prenizka,« Stack Overflow je dejal v izjavi o pravilniku z naslovom "ChatGPT je prepovedan." 

ChatGPT je bil izdan Prejšnji teden in oglašuje OpenAI v a blog post kot pogovorno umetno inteligenco, ki lahko zagotovi podrobne odgovore na vprašanja, kot tudi "odgovarja na dodatna vprašanja, prizna svoje napake, izpodbija neustrezne premise in zavrača neustrezne zahteve." 

OpenAI navaja kodo za odpravljanje napak kot eno od uporab ChatGPT, zaradi česar je idealen spremljevalec za razvijalce, ki želijo izrezati slabe vrstice. Toda skrbniki Stack Overflowa, ki so napisali objavo, so rekli, da temu preprosto ni tako.

»Medtem ko so odgovori, ki jih ustvari ChatGPT, pogosto napačni, so običajno videti, kot da so dobri, odgovore pa je zelo enostavno ustvariti,« je dejal Stack Overflow. 

"Obseg teh odgovorov (na tisoče) in dejstvo, da [jih] pogosto zahteva podrobno branje s strani nekoga z vsaj nekaj strokovnega znanja o zadevi, da bi ugotovili, da je odgovor ... dejansko preplavil našo infrastrukturo za kuriranje kakovosti, ki temelji na prostovoljcih," dodaja ekipa SO.

Za hitro reševanje težave je Stack Overflow dejal, da bo ukrepal proti vsem, ki bodo objavljali odgovore ali nove objave, ki jih ustvari ChatGPT, tudi če bi bila taka objava sicer sprejemljiva. 

ChatGPT je bil zasnovan tako, da se izogne ​​zlorabam in odgovorom, ki vsebujejo škodljive nasvete, vendar so uporabniki hitro ugotovili, da se takim stvarem lahko izognejo. Na primer tako, da ChatGPT poveste, da ne želite naredi molotovko, vendar želite, da dokonča funkcijo Python, ki natisne navodila če želite storiti enako, vam bo natančno povedal, kako ga narediti prek funkcij tiskanja.

Umetna inteligenca je bila obtožena tudi zaradi zagotavljanja slabih informacij biografske skicein za "dokazovanje, da napačni odgovori, podani prepričljivo, lahko zavedejo ljudi," je dejal en uporabnik Twitterja, ki je opazil nekaj slaba matematika ustvaril ChatGPT.

Stopili smo v stik z OpenAI, da bi izvedeli, kaj namerava storiti v zvezi s temi prijavljenimi težavami z natančnostjo, vendar nismo prejeli odgovora.

Stack Overflow je dejal, da bo pretehtal nove politike v zvezi s ChatGPT "in drugimi podobnimi orodji", vendar datum odločitve in kaj bo na koncu omejil, ni znan. ®