Introducem îmbunătățiri ale API-ului de reglare fină și extindem programul nostru de modele personalizate

Reglaj fin asistat

La DevDay în noiembrie anul trecut, noi a anunțat un program de model personalizat conceput pentru a instrui și optimiza modele pentru un anumit domeniu, în parteneriat cu un grup dedicat de cercetători OpenAI. De atunci, ne-am întâlnit cu zeci de clienți pentru a le evalua nevoile modelelor personalizate și am evoluat programul nostru pentru a maximiza și mai mult performanța.

Astăzi, anunțăm oficial oferta noastră de reglare fină asistată ca parte a programului Model personalizat. Reglarea fină asistată este un efort de colaborare cu echipele noastre tehnice pentru a folosi tehnici dincolo de API-ul de reglare fină, cum ar fi hiperparametri suplimentari și diverse metode de reglare fină eficientă a parametrilor (PEFT) la o scară mai mare. Este deosebit de util pentru organizațiile care au nevoie de asistență pentru crearea unor conducte eficiente de date de instruire, sisteme de evaluare și parametri și metode personalizate pentru a maximiza performanța modelului pentru cazul sau sarcina lor de utilizare.

De exemplu, SK Telecom, un operator de telecomunicații care deservește peste 30 de milioane de abonați în Coreea de Sud, a dorit să personalizeze un model pentru a fi un expert în domeniul telecomunicațiilor, cu un accent inițial pe serviciul clienți. Au colaborat cu OpenAI pentru a ajusta GPT-4 pentru a-și îmbunătăți performanța în conversațiile legate de telecomunicații în limba coreeană. Pe parcursul mai multor săptămâni, SKT și OpenAI au condus la îmbunătățirea semnificativă a performanței în sarcinile de servicii pentru clienți din telecomunicații — o creștere cu 35% a calității rezumatului conversațiilor, o creștere cu 33% a acurateței recunoașterii intențiilor și o creștere a scorurilor de satisfacție de la 3.6 la 4.5 (în afara din 5) când se compară modelul reglat fin cu GPT-4. 

Model personalizat

În unele cazuri, organizațiile trebuie să pregătească un model special creat de la zero, care să le înțeleagă afacerea, industria sau domeniul. Modelele antrenate complet personalizat introduc cunoștințe noi dintr-un domeniu specific prin modificarea pașilor cheie ai procesului de formare a modelului folosind tehnici noi de antrenament la mijloc și post-formare. Organizațiile care înregistrează succes cu un model complet personalizat au adesea cantități mari de date proprietare – milioane de exemple sau miliarde de jetoane – pe care doresc să le folosească pentru a preda modelului cunoștințe noi sau comportamente complexe, unice pentru cazuri de utilizare foarte specifice. 

De exemplu, Harvey, un instrument juridic nativ AI pentru avocați, în parteneriat cu OpenAI pentru creați un model de limbă mare instruit personalizat pentru jurisprudență. Deși modelele de fundație erau puternice în raționament, le lipseau cunoștințele extinse despre istoria cazului juridic și alte cunoștințe necesare pentru activitatea juridică. După ce a testat inginerie promptă, RAG și reglare fină, Harvey a lucrat cu echipa noastră pentru a adăuga profunzimea contextului necesară modelului - echivalentul a 10 miliarde de jetoane de date. Echipa noastră a modificat fiecare pas al procesului de formare a modelului, de la formarea intermediară specifică domeniului până la personalizarea proceselor post-formare și încorporarea feedback-ului experților avocaților. Modelul rezultat a obținut o creștere cu 83% a răspunsurilor concrete, iar avocații au preferat rezultatele modelului personalizat în 97% din timp față de GPT-4.