Bemutatjuk a finomhangoló API fejlesztéseit, és bővítjük egyéni modellprogramunkat

Segített finomhangolás

A tavaly novemberi DevDay-n mi bejelentés Egyedi Modell program, amelyet egy adott tartomány modelljeinek betanítására és optimalizálására terveztek, együttműködve az OpenAI kutatóinak elkötelezett csoportjával. Azóta több tucat ügyféllel találkoztunk, hogy felmérjük egyedi modelligényeiket, és fejlesztettük programunkat a teljesítmény további maximalizálása érdekében.

Ma hivatalosan is bejelentjük az Egyedi Modell program részeként támogatott finomhangolási ajánlatunkat. Az asszisztált finomhangolás technikai csapatainkkal közösen végzett erőfeszítés a finomhangolási API-n túlmutató technikák, például további hiperparaméterek és különféle paraméterhatékony finomhangolási (PEFT) módszerek nagyobb léptékű kiaknázására. Különösen hasznos azoknak a szervezeteknek, amelyeknek támogatásra van szükségük hatékony oktatási adatfolyamok, kiértékelő rendszerek, valamint testre szabott paraméterek és módszerek beállításához, hogy maximalizálják a modell teljesítményét a használati esetükben vagy feladatukban.

Például, SK Telecom, egy több mint 30 millió dél-koreai előfizetőt kiszolgáló távközlési szolgáltató egy modellt akart személyre szabni, hogy a távközlési terület szakértője legyen, kezdetben az ügyfélszolgálatra összpontosítva. Az OpenAI-val együttműködve finomhangolták a GPT-4-et, hogy javítsák a teljesítményét a távközléssel kapcsolatos koreai nyelvű beszélgetésekben. Több hét leforgása alatt az SKT és az OpenAI jelentős teljesítményjavulást eredményezett a távközlési ügyfélszolgálati feladatok terén – 35%-kal javult a beszélgetések összegzési minősége, 33%-kal nőtt a szándékfelismerés pontossága, és 3.6-ról 4.5-re nőtt az elégedettségi pontszám 5) a finomhangolt modell és a GPT-4 összehasonlításakor. 

Egyedi képzett modell

Egyes esetekben a szervezeteknek a semmiből kell kiképezniük egy olyan célra épített modellt, amely megérti vállalkozásukat, iparágukat vagy területüket. A teljesen személyre szabott modellek új ismereteket töltenek be egy adott területről azáltal, hogy módosítják a modellképzési folyamat kulcsfontosságú lépéseit, újszerű közép- és utóképzési technikákkal. Azok a szervezetek, amelyek sikeresnek látják egy teljesen egyedileg kiképzett modellt, gyakran nagy mennyiségű védett adattal rendelkeznek – példák milliói vagy több milliárd tokenek –, amelyeket arra akarnak használni, hogy új ismereteket vagy összetett, egyedi viselkedésmódokat tanítsanak a modellnek a rendkívül specifikus használati esetekre. 

Például, Harvey, egy mesterséges intelligencia natív jogi eszköze ügyvédeknek, az OpenAI-val együttműködve hozzon létre egy személyre szabott nagy nyelvi modellt az esetjog számára. Míg az alapítványi modellek erősek voltak az érvelésben, hiányzott belőlük a jogesettörténet és a jogi munkához szükséges egyéb ismeretek széleskörű ismerete. Az azonnali tervezés, a RAG és a finomhangolás tesztelése után Harvey csapatunkkal együttműködve adjuk hozzá a modellhez szükséges kontextus mélységét – ami 10 milliárd token értékű adatnak felel meg. Csapatunk a modellképzési folyamat minden lépését módosította, a tartományspecifikus középképzéstől a képzés utáni folyamatok testreszabásáig és a szakértői ügyvédi visszajelzések beépítéséig. Az eredményül kapott modell 83%-kal növelte a tényszerű válaszokat, és az ügyvédek az esetek 97%-ában a testreszabott modell kimeneteit részesítették előnyben a GPT-4 helyett.