OpenAI και δημοσιογραφία

Οι συζητήσεις μας με τους New York Times φάνηκαν να προχωρούν εποικοδομητικά μέσω της τελευταίας επικοινωνίας μας στις 19 Δεκεμβρίου. Οι διαπραγματεύσεις επικεντρώθηκαν σε μια συνεργασία υψηλής αξίας γύρω από την προβολή σε πραγματικό χρόνο με απόδοση στο ChatGPT, στην οποία οι New York Times θα αποκτούσαν μια νέα τρόπο να συνδεθούν με τους υπάρχοντες και τους νέους αναγνώστες τους και οι χρήστες μας θα αποκτήσουν πρόσβαση στις αναφορές τους. Είχαμε εξηγήσει στους New York Times ότι, όπως κάθε μεμονωμένη πηγή, το περιεχόμενό τους δεν συνέβαλε ουσιαστικά στην εκπαίδευση των υφιστάμενων μοντέλων μας και επίσης δεν θα είχε επαρκή αντίκτυπο για μελλοντική εκπαίδευση. Η αγωγή τους στις 27 Δεκεμβρίου —για την οποία μάθαμε διαβάζοντας τους New York Times— μας προκάλεσε έκπληξη και απογοήτευση.

Στην πορεία, είχαν αναφέρει ότι είδαν κάποια παλινδρόμηση του περιεχομένου τους, αλλά αρνήθηκαν επανειλημμένα να μοιραστούν οποιοδήποτε παράδειγμα, παρά τη δέσμευσή μας να διερευνήσουμε και να διορθώσουμε τυχόν προβλήματα. Έχουμε αποδείξει πόσο σοβαρά αντιμετωπίζουμε αυτό ως προτεραιότητα, όπως τον Ιούλιο που το κάναμε κατάργησε μια δυνατότητα ChatGPT αμέσως αφού μάθαμε ότι μπορούσε να αναπαράγει περιεχόμενο σε πραγματικό χρόνο με ακούσιους τρόπους.

Είναι ενδιαφέρον ότι οι παλινδρομήσεις που προκάλεσαν οι New York Times φαίνεται να προέρχονται από άρθρα ετών που έχουν πολλαπλασιαστεί σε πολλαπλούς τρίτος-κόμμα ιστοσελίδες. Φαίνεται ότι σκόπιμα χειραγωγούσαν τις προτροπές, που συχνά περιλαμβάνουν μεγάλα αποσπάσματα άρθρων, προκειμένου να κάνουν το μοντέλο μας να ανακάμψει. Ακόμη και όταν χρησιμοποιούν τέτοιες προτροπές, τα μοντέλα μας συνήθως δεν συμπεριφέρονται με τον τρόπο που υπαινίσσονται οι New York Times, κάτι που υποδηλώνει ότι είτε έδωσαν εντολή στο μοντέλο να αναμείξει ή επέλεξαν τα παραδείγματά τους από πολλές προσπάθειες.

Παρά τους ισχυρισμούς τους, αυτή η κακή χρήση δεν είναι τυπική ή επιτρεπόμενη δραστηριότητα χρήστη και δεν υποκαθιστά τους The New York Times. Ανεξάρτητα από αυτό, κάνουμε συνεχώς τα συστήματά μας πιο ανθεκτικά σε αντίπαλες επιθέσεις για την ανάκτηση δεδομένων εκπαίδευσης και έχουμε ήδη σημειώσει μεγάλη πρόοδο στα πρόσφατα μοντέλα μας.