Παρουσιάζουμε βελτιώσεις στο API λεπτομέρειας και επεκτείνουμε το πρόγραμμα προσαρμοσμένων μοντέλων μας

Υποβοηθούμενη λεπτομέρεια

Στο DevDay τον περασμένο Νοέμβριο, εμείς ανακοίνωσε ένα πρόγραμμα προσαρμοσμένου μοντέλου σχεδιασμένο για την εκπαίδευση και τη βελτιστοποίηση μοντέλων για έναν συγκεκριμένο τομέα, σε συνεργασία με μια ειδική ομάδα ερευνητών OpenAI. Έκτοτε, συναντηθήκαμε με δεκάδες πελάτες για να αξιολογήσουμε τις ανάγκες προσαρμοσμένου μοντέλου τους και εξελίξαμε το πρόγραμμά μας για να μεγιστοποιήσουμε περαιτέρω την απόδοση.

Σήμερα, ανακοινώνουμε επίσημα την υποβοηθούμενη προσφορά βελτιστοποίησης ως μέρος του προγράμματος προσαρμοσμένου μοντέλου. Η υποβοηθούμενη λεπτομέρεια είναι μια συλλογική προσπάθεια με τις τεχνικές μας ομάδες για τη μόχλευση τεχνικών πέρα ​​από το API μικρορύθμισης, όπως πρόσθετες υπερπαράμετροι και διάφορες μέθοδοι μικρορύθμισης αποδοτικής παραμέτρου (PEFT) σε μεγαλύτερη κλίμακα. Είναι ιδιαίτερα χρήσιμο για οργανισμούς που χρειάζονται υποστήριξη για τη δημιουργία αποτελεσματικών γραμμών δεδομένων εκπαίδευσης, συστημάτων αξιολόγησης και εξατομικευμένων παραμέτρων και μεθόδων για τη μεγιστοποίηση της απόδοσης του μοντέλου για την περίπτωση χρήσης ή την εργασία τους.

Για παράδειγμα, SK Telecom, ένας πάροχος τηλεπικοινωνιών που εξυπηρετεί πάνω από 30 εκατομμύρια συνδρομητές στη Νότια Κορέα, ήθελε να προσαρμόσει ένα μοντέλο ώστε να είναι ειδικός στον τομέα των τηλεπικοινωνιών με αρχική εστίαση στην εξυπηρέτηση πελατών. Συνεργάστηκαν με το OpenAI για να τελειοποιήσουν το GPT-4 για να βελτιώσουν την απόδοσή του σε συνομιλίες που σχετίζονται με τηλεπικοινωνίες στην κορεατική γλώσσα. Κατά τη διάρκεια πολλών εβδομάδων, το SKT και το OpenAI οδήγησαν σε σημαντική βελτίωση της απόδοσης στις εργασίες εξυπηρέτησης πελατών τηλεπικοινωνιών—αύξηση 35% στην ποιότητα σύνοψης συνομιλιών, αύξηση 33% στην ακρίβεια αναγνώρισης πρόθεσης και αύξηση των βαθμολογιών ικανοποίησης από 3.6 σε 4.5 (εκτός από 5) κατά τη σύγκριση του βελτιωμένου μοντέλου με το GPT-4. 

Ειδικά εκπαιδευμένο μοντέλο

Σε ορισμένες περιπτώσεις, οι οργανισμοί πρέπει να εκπαιδεύσουν από την αρχή ένα συγκεκριμένο μοντέλο που να κατανοεί την επιχείρηση, τον κλάδο ή τον τομέα τους. Τα πλήρως εξατομικευμένα μοντέλα εμποτίζουν νέα γνώση από έναν συγκεκριμένο τομέα τροποποιώντας βασικά βήματα της διαδικασίας εκπαίδευσης μοντέλων χρησιμοποιώντας νέες τεχνικές ενδιάμεσης εκπαίδευσης και μετά την εκπαίδευση. Οι οργανισμοί που βλέπουν επιτυχία με ένα πλήρως εξατομικευμένο μοντέλο έχουν συχνά μεγάλες ποσότητες ιδιόκτητων δεδομένων -εκατομμύρια παραδείγματα ή δισεκατομμύρια μάρκες- που θέλουν να χρησιμοποιήσουν για να διδάξουν στο μοντέλο νέα γνώση ή περίπλοκες, μοναδικές συμπεριφορές για πολύ συγκεκριμένες περιπτώσεις χρήσης. 

Για παράδειγμα, Harvey, ένα εγγενές νομικό εργαλείο για δικηγόρους, σε συνεργασία με το OpenAI to δημιουργήστε ένα προσαρμοσμένο μοντέλο μεγάλης γλώσσας για νομολογία. Ενώ τα θεμελιώδη μοντέλα ήταν ισχυρά στη συλλογιστική, δεν είχαν την εκτενή γνώση του ιστορικού νομικών υποθέσεων και άλλων γνώσεων που απαιτούνται για νομική εργασία. Αφού δοκίμασε την άμεση μηχανική, το RAG και τη λεπτομέρεια, ο Harvey εργάστηκε με την ομάδα μας για να προσθέσει το βάθος του περιβάλλοντος που απαιτείται στο μοντέλο - το ισοδύναμο δεδομένων αξίας 10 δισεκατομμυρίων tokens. Η ομάδα μας τροποποίησε κάθε βήμα της διαδικασίας κατάρτισης μοντέλου, από την ενδιάμεση εκπαίδευση σε συγκεκριμένο τομέα έως την προσαρμογή των διαδικασιών μετά την εκπαίδευση και την ενσωμάτωση των σχολίων από ειδικούς δικηγόρους. Το μοντέλο που προέκυψε πέτυχε αύξηση 83% στις πραγματικές απαντήσεις και οι δικηγόροι προτίμησαν τα αποτελέσματα του προσαρμοσμένου μοντέλου το 97% του χρόνου έναντι του GPT-4.