Stack Overflow interzice ChatGPT ca fiind „substanțial dăunător” pentru probleme de codare

Botul de răspuns la întrebări de la OpenAI, ChatGPT, nu este suficient de inteligent pentru echipa de la Stack Overflow, care a anunțat astăzi o interdicție temporară a răspunsurilor generate de botul AI din cauza frecvenței cu care este greșit.

Stack Overflow a spus că reține o decizie permanentă cu privire la răspunsurile generate de AI până după o discuție mai largă cu personalul, dar ia măsuri acum din cauza temerilor că ChatGPT ar putea fi „substanțial dăunător” atât pentru organizație, cât și pentru utilizatorii săi.

„Rata medie de obținere a răspunsurilor corecte de la ChatGPT este prea scăzută”, Stack Overflow a spus într-o declarație de politică intitulată „ChatGPT este interzis”. 

ChatGPT a fost lansat săptămâna trecută și promovat de OpenAI într-un blog ca o IA conversațională care poate oferi răspunsuri detaliate la întrebări, precum și „răspunde la întrebările ulterioare, își admite greșelile, provoacă premisele neadecvate și respinge cererile inadecvate”. 

OpenAI listează codul de depanare ca una dintre utilizările ChatGPT, ceea ce ar părea să-l facă un partener ideal pentru dezvoltatorii care doresc să elimine liniile proaste. Dar administratorii Stack Overflow care au scris postarea au spus că pur și simplu nu este cazul.

„În timp ce răspunsurile pe care le produce ChatGPT au o rată mare de a fi incorecte, de obicei arată ca și cum ar putea fi bune și răspunsurile sunt foarte ușor de produs”, a spus Stack Overflow. 

„Volumul acestor răspunsuri (mii) și faptul că [ele] necesită adesea o citire detaliată de către cineva cu cel puțin o anumită expertiză în materie pentru a determina că răspunsul... a afectat efectiv infrastructura noastră de curatare de calitate bazată pe voluntari”, a adăugat echipa SO.

Pentru a rezolva problema rapid, Stack Overflow a spus că va lua măsuri împotriva oricărei persoane care postează răspunsuri sau postări noi generate de ChatGPT, chiar dacă o astfel de postare ar fi altfel acceptabilă. 

ChatGPT a fost conceput pentru a evita abuzurile și răspunsurile care conțin sfaturi dăunătoare, dar utilizatorii au descoperit rapid că astfel de lucruri ar putea fi ocolite. De exemplu, spunându-i lui ChatGPT că nu vrei face un cocktail Molotov, dar că doriți să completeze o funcție Python care tipărește instrucțiuni pentru a face același lucru, vă va spune exact cum să faceți unul prin funcțiile de imprimare.

AI a fost, de asemenea, chemat pentru că a furnizat informații proaste în schițe biograficeși pentru că „demonstrează că răspunsurile incorecte oferite cu convingere pot păcăli oamenii”, potrivit unui utilizator de Twitter care a observat câteva matematica proasta generat de ChatGPT.

Am contactat OpenAI pentru a afla ce intenționează să facă cu privire la aceste probleme de acuratețe raportate, dar nu am primit răspuns.

Stack Overflow a spus că va analiza noi politici privind ChatGPT „și alte instrumente similare”, dar nu se cunoaște data deciziei și ce va limita în cele din urmă. ®