A Stack Overflow letiltja a ChatGPT-t, mint „lényegesen káros” kódolási problémákat

Az OpenAI kérdés-megválaszoló botja, a ChatGPT nem elég okos a Stack Overflow csapata számára, akik ma bejelentették, hogy ideiglenesen betiltják az AI bot által generált válaszokat a hibás válaszok gyakorisága miatt.

A Stack Overflow azt mondta, hogy a mesterséges intelligencia által generált válaszokkal kapcsolatos végleges döntést visszatartja egy nagyobb személyzeti megbeszélésig, de most lépéseket tesz, mert attól tart, hogy a ChatGPT „lényegesen káros lehet” mind a szervezetre, mind a felhasználókra nézve.

„A ChatGPT-től való helyes válaszok átlagos aránya túl alacsony” – mondta Stack Overflow mondott a „ChatGPT tiltva” című közleményében szerepel. 

A ChatGPT megjelent a múlt héten és az OpenAI által reklámozott a blogbejegyzés mint társalgási mesterséges intelligencia, amely részletes válaszokat tud adni a kérdésekre, valamint „megválaszolja a további kérdéseket, elismeri hibáit, megkérdőjelezi a nem megfelelő helyiségeket és elutasítja a nem megfelelő kéréseket”. 

Az OpenAI a hibakereső kódot a ChatGPT egyik felhasználási területeként sorolja fel, ami úgy tűnik, hogy ideális társ a fejlesztők számára, akik ki akarják vágni a rossz sorokat. De a Stack Overflow rendszergazdák, akik a bejegyzést írták, azt mondták, hogy ez egyszerűen nem így van.

"Bár a ChatGPT által generált válaszok nagy arányban tévesek, általában úgy néznek ki, hogy jók lehetnek, és a válaszokat nagyon könnyű elkészíteni" - mondta Stack Overflow. 

„Ezen válaszok mennyisége (ezrek), és az a tény, hogy [azokat] gyakran részletesen el kell olvasnia valakinek, aki legalább némi szakértelemmel rendelkezik a témában, annak megállapításához, hogy a válasz… hatékonyan elárasztotta az önkéntesen alapuló minőségi kurátori infrastruktúránkat” – tette hozzá a SO csapata.

A probléma gyors megoldása érdekében a Stack Overflow azt mondta, hogy lépéseket fog tenni az ellen, hogy bárki válaszokat vagy a ChatGPT által generált új bejegyzéseket tegyen közzé, még akkor is, ha egy ilyen bejegyzés egyébként elfogadható lenne. 

A ChatGPT-t úgy tervezték, hogy elkerülje a visszaéléseket és a káros tanácsokat tartalmazó válaszokat, de a felhasználók hamar rájöttek, hogy ezek a dolgok elkerülhetők. Például úgy, hogy elmondja a ChatGPT-nek, hogy nem szeretné készíts egy Molotov-koktélt, hanem azt szeretné, hogy egy Python-függvényt fejezzen be utasításokat nyomtat Ha ugyanezt szeretné megtenni, pontosan megmondja, hogyan készíthet egyet a nyomtatási funkciókon keresztül.

Az AI-t azért is kérték, mert rossz információkat szolgáltatott életrajzi vázlatok, és amiért bebizonyította, hogy a helytelen válaszok meggyőzően becsaphatják az embereket – állítja egy Twitter-felhasználó, aki észrevett néhány rossz matek a ChatGPT generálta.

Megkerestük az OpenAI-t, hogy megtudjuk, mit tervez ezekkel a jelentett pontossági problémákkal kapcsolatban, de nem kaptunk választ.

A Stack Overflow azt mondta, hogy mérlegelni fogja a ChatGPT „és más hasonló eszközöket” körülvevő új irányelveket, de a döntés dátuma, és hogy végül mit fog korlátozni, nem ismert. ®