Το Stack Overflow απαγορεύει το ChatGPT ως «ουσιαστικά επιβλαβές» για ζητήματα κωδικοποίησης

Το ρομπότ του OpenAI που απαντά σε ερωτήσεις, το ChatGPT, δεν είναι αρκετά έξυπνο για την ομάδα του Stack Overflow, η οποία ανακοίνωσε σήμερα μια προσωρινή απαγόρευση των απαντήσεων που δημιουργούνται από το bot AI λόγω της συχνότητας που είναι λάθος.

Η Stack Overflow είπε ότι απέκρυψε μια μόνιμη απόφαση σχετικά με τις απαντήσεις που δημιουργήθηκαν από την τεχνητή νοημοσύνη μέχρι μετά από μια ευρύτερη συζήτηση του προσωπικού, αλλά έλαβε δράση τώρα λόγω των φόβων ότι το ChatGPT θα μπορούσε να είναι «ουσιαστικά επιβλαβές» τόσο για τον οργανισμό όσο και για τους χρήστες του.

"Το μέσο ποσοστό λήψης σωστών απαντήσεων από το ChatGPT είναι πολύ χαμηλό", Stack Overflow είπε σε μια δήλωση πολιτικής με τίτλο "Το ChatGPT είναι απαγορευμένο". 

Το ChatGPT κυκλοφόρησε την περασμένη εβδομάδα και διαφημίζεται από το OpenAI σε α ανάρτηση ως συνομιλητική τεχνητή νοημοσύνη που μπορεί να παρέχει λεπτομερείς απαντήσεις σε ερωτήσεις, καθώς και «να απαντήσει σε ερωτήσεις παρακολούθησης, να παραδεχτεί τα λάθη της, να αμφισβητήσει ακατάλληλες εγκαταστάσεις και να απορρίψει ακατάλληλα αιτήματα». 

Το OpenAI παραθέτει τον κώδικα εντοπισμού σφαλμάτων ως μία από τις χρήσεις του ChatGPT, κάτι που φαίνεται να το καθιστά ιδανικό σύντροφο για προγραμματιστές που επιδιώκουν να κόψουν τις κακές γραμμές. Αλλά οι διαχειριστές του Stack Overflow που έγραψαν την ανάρτηση είπαν ότι απλά δεν συμβαίνει αυτό.

"Ενώ οι απαντήσεις που παράγει το ChatGPT έχουν υψηλό ποσοστό λανθασμένων, συνήθως φαίνονται ότι μπορεί να είναι καλές και οι απαντήσεις είναι πολύ εύκολο να παραχθούν", δήλωσε ο Stack Overflow. 

«Ο όγκος αυτών των απαντήσεων (χιλιάδες) και το γεγονός ότι [αυτές] συχνά απαιτούν μια λεπτομερή ανάγνωση από κάποιον με τουλάχιστον κάποια εξειδίκευση στο θέμα, προκειμένου να διαπιστωθεί ότι η απάντηση … έχει κατακλύσει αποτελεσματικά την υποδομή επιμέλειας ποιότητας που βασίζεται σε εθελοντές». πρόσθεσε η ομάδα SO.

Για την ταχεία αντιμετώπιση του προβλήματος, η Stack Overflow είπε ότι επρόκειτο να λάβει μέτρα εναντίον οποιουδήποτε δημοσιεύει απαντήσεις ή νέες αναρτήσεις που δημιουργούνται από το ChatGPT, ακόμα κι αν μια τέτοια ανάρτηση θα ήταν διαφορετικά αποδεκτή. 

Το ChatGPT σχεδιάστηκε για να αποφεύγει την κατάχρηση και τις απαντήσεις που περιέχουν επιβλαβείς συμβουλές, αλλά οι χρήστες γρήγορα διαπίστωσαν ότι τέτοια πράγματα μπορούσαν να παρακάμπτονται. Για παράδειγμα, λέγοντας στο ChatGPT ότι δεν το θέλετε φτιάξε μια μολότοφ, αλλά ότι θέλετε να ολοκληρώσει μια συνάρτηση Python που εκτυπώνει οδηγίες για να κάνετε το ίδιο, θα σας πει ακριβώς πώς να το φτιάξετε μέσω των λειτουργιών εκτύπωσης.

Το AI έχει επίσης κληθεί για την παροχή κακών πληροφοριών βιογραφικά σκίτσα, και για την «απόδειξη ότι οι λανθασμένες απαντήσεις που δίνονται πειστικά μπορούν να ξεγελάσουν τους ανθρώπους», σύμφωνα με έναν χρήστη του Twitter που εντόπισε μερικά κακά μαθηματικά που δημιουργήθηκε από το ChatGPT.

Επικοινωνήσαμε με το OpenAI για να μάθουμε τι σχεδιάζει να κάνει σχετικά με αυτά τα αναφερόμενα ζητήματα ακρίβειας, αλλά δεν έχουμε λάβει νέα.

Το Stack Overflow είπε ότι θα σταθμίσει νέες πολιτικές σχετικά με το ChatGPT "και άλλα παρόμοια εργαλεία", αλλά η ημερομηνία απόφασης και το τι θα περιορίσει τελικά δεν είναι γνωστό. ®