Giới thiệu các cải tiến đối với API tinh chỉnh và mở rộng chương trình mô hình tùy chỉnh của chúng tôi

Hỗ trợ tinh chỉnh

Tại DevDay vào tháng 11 năm ngoái, chúng tôi công bố một chương trình Mô hình tùy chỉnh được thiết kế để đào tạo và tối ưu hóa các mô hình cho một miền cụ thể, hợp tác với một nhóm các nhà nghiên cứu OpenAI chuyên dụng. Kể từ đó, chúng tôi đã gặp hàng chục khách hàng để đánh giá nhu cầu về mẫu xe tùy chỉnh của họ và phát triển chương trình của chúng tôi để tối đa hóa hiệu suất hơn nữa.

Hôm nay, chúng tôi chính thức công bố dịch vụ hỗ trợ tinh chỉnh như một phần của chương trình Mô hình tùy chỉnh. Tinh chỉnh được hỗ trợ là nỗ lực hợp tác với các nhóm kỹ thuật của chúng tôi nhằm tận dụng các kỹ thuật ngoài API tinh chỉnh, chẳng hạn như siêu tham số bổ sung và các phương pháp tinh chỉnh hiệu quả tham số (PEFT) khác nhau ở quy mô lớn hơn. Nó đặc biệt hữu ích cho các tổ chức cần hỗ trợ thiết lập đường dẫn dữ liệu đào tạo hiệu quả, hệ thống đánh giá cũng như các tham số và phương pháp riêng biệt để tối đa hóa hiệu suất mô hình cho trường hợp sử dụng hoặc nhiệm vụ của họ.

Ví dụ, SK Telecom, một nhà khai thác viễn thông phục vụ hơn 30 triệu thuê bao ở Hàn Quốc, muốn tùy chỉnh mô hình để trở thành chuyên gia trong lĩnh vực viễn thông với trọng tâm ban đầu là dịch vụ khách hàng. Họ đã làm việc với OpenAI để tinh chỉnh GPT-4 nhằm cải thiện hiệu suất của nó trong các cuộc hội thoại liên quan đến viễn thông bằng tiếng Hàn. Trong nhiều tuần, SKT và OpenAI đã thúc đẩy sự cải thiện hiệu suất có ý nghĩa trong các nhiệm vụ dịch vụ khách hàng viễn thông—tăng 35% chất lượng tóm tắt cuộc trò chuyện, tăng 33% độ chính xác trong nhận dạng ý định và tăng điểm hài lòng từ 3.6 lên 4.5 (ngoài trên 5) khi so sánh mô hình đã tinh chỉnh với GPT-4. 

Người mẫu được đào tạo tùy chỉnh

Trong một số trường hợp, các tổ chức cần đào tạo một mô hình được xây dựng có mục đích ngay từ đầu để hiểu rõ hoạt động kinh doanh, ngành hoặc lĩnh vực của họ. Các mô hình được đào tạo hoàn toàn tùy chỉnh sẽ truyền đạt kiến ​​thức mới từ một miền cụ thể bằng cách sửa đổi các bước chính của quy trình đào tạo mô hình bằng cách sử dụng các kỹ thuật đào tạo giữa và sau đào tạo mới. Các tổ chức đạt được thành công với mô hình được đào tạo tùy chỉnh hoàn toàn thường có số lượng lớn dữ liệu độc quyền—hàng triệu ví dụ hoặc hàng tỷ mã thông báo—mà họ muốn sử dụng để dạy cho mô hình kiến ​​thức mới hoặc các hành vi phức tạp, độc đáo cho các trường hợp sử dụng rất cụ thể. 

Ví dụ, Harvey, một công cụ pháp lý dựa trên AI dành cho luật sư, hợp tác với OpenAI để tạo ra một mô hình ngôn ngữ lớn được đào tạo tùy chỉnh cho án lệ. Mặc dù các mô hình nền tảng rất giỏi về lý luận nhưng lại thiếu kiến ​​thức sâu rộng về lịch sử vụ việc pháp lý và các kiến ​​thức khác cần thiết cho công việc pháp lý. Sau khi thử nghiệm kỹ thuật kịp thời, RAG và tinh chỉnh, Harvey đã làm việc với nhóm của chúng tôi để bổ sung độ sâu bối cảnh cần thiết cho mô hình—tương đương với dữ liệu trị giá 10 tỷ mã thông báo. Nhóm của chúng tôi đã sửa đổi từng bước của quy trình đào tạo mô hình, từ đào tạo giữa kỳ theo miền cụ thể đến tùy chỉnh các quy trình sau đào tạo và kết hợp phản hồi của luật sư chuyên gia. Mô hình thu được đã đạt được mức tăng 83% về phản hồi thực tế và các luật sư ưa thích kết quả đầu ra của mô hình tùy chỉnh hơn 97% so với GPT-4.