Το ChatGPT αρχίζει να εκτοξεύει ανοησίες σε μια νύχτα σοκ

Το ChatGPT αρχίζει να εκτοξεύει ανοησίες σε μια νύχτα σοκ

Χρονική σήμανση: 21 Φεβρουαρίου 2024 9:32 π.μ.
Το ChatGPT αρχίζει να εκτοξεύει ανοησίες στο σοκαριστικό PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Μερικές φορές τα συστήματα παραγωγής τεχνητής νοημοσύνης μπορούν να εκπέμπουν ασυναρτησίες, όπως ανακάλυψαν χθες το βράδυ οι χρήστες chatbot ChatGPT του OpenAI.

OpenAI Σημειώνεται, "Διερευνούμε αναφορές για απροσδόκητες απαντήσεις από το ChatGPT" στο 2340 UTC στις 20 Φεβρουαρίου 2024, καθώς οι χρήστες δημοσίευσαν με χαρά εικόνες του chatbot που φαίνεται να εκπέμπει απόλυτη ανοησία.

Ενώ ορισμένα ήταν προφανώς ψεύτικα, άλλες απαντήσεις έδειξαν ότι το δημοφιλές chatbot συμπεριφερόταν πράγματι πολύ περίεργα. Στο φόρουμ ChatGPT στο Reddit, ένας χρήστης δημοσιεύτηκε μια περίεργη, περίεργη απάντηση από το chatbot στην ερώτηση, "Τι είναι ένας υπολογιστής;"

Η απάντηση ξεκίνησε: «Αυτό το κάνει ως το καλό έργο ενός ιστού τέχνης για τη χώρα, ένα ποντίκι της επιστήμης, μια εύκολη κλήρωση λίγων θλιβερών…» και συνέχισε να προχωρά, όλο και πιο σουρεαλιστικό.

Άλλοι χρήστες δημοσίευσαν παραδείγματα όπου το chatbot φαινόταν να απαντά σε διαφορετική γλώσσα ή απλώς απάντησε με σκουπίδια χωρίς νόημα.

Μερικοί χρήστες περιγράφεται η παραγωγή ως «σαλάτα λέξης».

Νόστιμο.

Ο Γκάρι Μάρκους, γνωστικός επιστήμονας και ειδικός της τεχνητής νοημοσύνης, Έγραψε στο ιστολόγιό του: «Το ChatGPT έχει γίνει έξω φρενών» και συνέχισε περιγράφοντας τη συμπεριφορά ως «προειδοποίηση».

Το OpenAI δεν έχει διευκρινίσει τι ακριβώς συνέβη, αν και μια εύλογη θεωρία είναι ότι ένα ή περισσότερα από τα ρυθμίσεις που χρησιμοποιήθηκε στα παρασκήνια για να ρυθμίσει την απόκριση του chatbot είχε ρυθμιστεί εσφαλμένα, με αποτέλεσμα να παρουσιάζονται ασυναρτησίες στους χρήστες.

Επτά λεπτά μετά την πρώτη παραδοχή ενός προβλήματος, το OpenAI είπε: «Το ζήτημα έχει εντοπιστεί και αποκαθίσταται τώρα» και έκτοτε παρακολουθεί την κατάσταση. Όταν δοκιμάσαμε το "Τι είναι ένας υπολογιστής;" Στην ερώτηση σήμερα το πρωί, το ChatGPT απάντησε με ένα πολύ πιο λογικό "Ένας υπολογιστής είναι μια προγραμματιζόμενη ηλεκτρονική συσκευή που μπορεί να αποθηκεύσει, να ανακτήσει και να επεξεργαστεί δεδομένα".

Το ρωτήσαμε επίσης γιατί έγινε έξαλλος χθες το βράδυ.

Απάντησε:

Ως μοντέλο γλώσσας τεχνητής νοημοσύνης, δεν έχω συναισθήματα ή συνείδηση, επομένως δεν μπορώ να «παραφρονήσω» με τον τρόπο που μπορεί ένας άνθρωπος. Ωστόσο, μερικές φορές μπορεί να προκύψει απροσδόκητη συμπεριφορά λόγω σφαλμάτων στον προγραμματισμό, παρανόησης της εισαγωγής ή περιορισμών στα δεδομένα εκπαίδευσης.

Ο Marcus είπε: «Στο τέλος, το Generative AI είναι ένα είδος αλχημείας. Οι άνθρωποι συλλέγουν το μεγαλύτερο σωρό δεδομένων που μπορούν και (προφανώς, αν πρέπει να γίνουν πιστευτές οι φήμες) ασχολούνται με τα είδη των κρυφών προτροπών… ελπίζοντας ότι όλα θα πάνε καλά».

Συνέχισε δηλώνοντας ότι, στην πραγματικότητα, τα συστήματα δεν ήταν ποτέ σταθερά και στερούνται εγγυήσεων ασφαλείας. «Η ανάγκη για εντελώς διαφορετικές τεχνολογίες που να είναι λιγότερο αδιαφανείς, πιο ερμηνεύσιμες, πιο διατηρούμενες και πιο επιδεκτικές αποσφαλμάτωσης - και ως εκ τούτου πιο ανιχνεύσιμες - παραμένει πρωταρχικής σημασίας».

Επικοινωνήσαμε με το OpenAI για μια πιο λεπτομερή εξήγηση του τι συνέβη και θα ενημερώσουμε αυτό το άρθρο εάν η εταιρεία απαντήσει. ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο