Introduction d'améliorations à l'API de réglage fin et extension de notre programme de modèles personnalisés

Mise au point assistée

Lors du DevDay de novembre dernier, nous annoncé un programme de modèles personnalisés conçu pour former et optimiser des modèles pour un domaine spécifique, en partenariat avec un groupe dédié de chercheurs OpenAI. Depuis lors, nous avons rencontré des dizaines de clients pour évaluer leurs besoins en matière de modèles personnalisés et avons fait évoluer notre programme pour optimiser davantage les performances.

Aujourd'hui, nous annonçons officiellement notre offre de réglage fin assisté dans le cadre du programme Modèle personnalisé. Le réglage fin assisté est un effort de collaboration avec nos équipes techniques pour exploiter des techniques au-delà de l'API de réglage fin, telles que des hyperparamètres supplémentaires et diverses méthodes de réglage fin efficace des paramètres (PEFT) à plus grande échelle. Il est particulièrement utile pour les organisations qui ont besoin d'aide pour mettre en place des pipelines de données de formation efficaces, des systèmes d'évaluation et des paramètres et méthodes sur mesure pour maximiser les performances du modèle pour leur cas d'utilisation ou leur tâche.

Par exemple, SK Telecom, un opérateur de télécommunications servant plus de 30 millions d'abonnés en Corée du Sud, souhaitait personnaliser un modèle pour devenir un expert dans le domaine des télécommunications avec un accent initial sur le service client. Ils ont travaillé avec OpenAI pour affiner GPT-4 afin d'améliorer ses performances dans les conversations liées aux télécommunications en coréen. Au cours de plusieurs semaines, SKT et OpenAI ont entraîné une amélioration significative des performances des tâches de service client des télécommunications : une augmentation de 35 % de la qualité du résumé des conversations, une augmentation de 33 % de la précision de la reconnaissance d'intention et une augmentation des scores de satisfaction de 3.6 à 4.5 (sur de 5) en comparant le modèle affiné à GPT-4. 

Modèle formé sur mesure

Dans certains cas, les organisations doivent créer à partir de zéro un modèle spécialement conçu qui comprend leur activité, leur secteur d’activité ou leur domaine. Les modèles entièrement formés sur mesure imprègnent de nouvelles connaissances d'un domaine spécifique en modifiant les étapes clés du processus de formation des modèles à l'aide de nouvelles techniques de formation intermédiaire et post-formation. Les organisations qui réussissent avec un modèle entièrement personnalisé disposent souvent de grandes quantités de données propriétaires (des millions d'exemples ou des milliards de jetons) qu'elles souhaitent utiliser pour enseigner au modèle de nouvelles connaissances ou des comportements complexes et uniques pour des cas d'utilisation très spécifiques. 

Par exemple, Harvey, un outil juridique natif d'IA pour les avocats, en partenariat avec OpenAI pour créer un grand modèle de langage personnalisé pour la jurisprudence. Même si les modèles de fondation étaient doués en raisonnement, ils ne possédaient pas une connaissance approfondie de l’histoire des affaires juridiques et d’autres connaissances requises pour le travail juridique. Après avoir testé l'ingénierie rapide, RAG et effectué des réglages précis, Harvey a travaillé avec notre équipe pour ajouter la profondeur de contexte nécessaire au modèle, soit l'équivalent de 10 milliards de jetons de données. Notre équipe a modifié chaque étape du processus de formation du modèle, depuis la formation intermédiaire spécifique au domaine jusqu'à la personnalisation des processus post-formation et l'intégration des commentaires d'avocats experts. Le modèle résultant a permis d'obtenir une augmentation de 83 % des réponses factuelles et les avocats ont préféré les résultats du modèle personnalisé dans 97 % des cas à ceux de GPT-4.