Predstavljamo več funkcij za podjetja za stranke API-ja

Da bi organizacijam pomagali povečati svojo uporabo umetne inteligence, ne da bi pretiravali z njihovimi proračuni, smo dodali dva nova načina za zmanjšanje stroškov pri doslednih in asinhronih delovnih obremenitvah:

• Znižana uporaba glede na dodeljeni pretok: Stranke s trajno ravnjo uporabe žetonov na minuto (TPM) na GPT-4 ali GPT-4 Turbo lahko zahtevajo dostop do omogočene prepustnosti, da dobijo popuste v razponu od 10–50 % glede na velikost obveznosti.
• Zmanjšani stroški pri asinhronih delovnih obremenitvah: Stranke lahko uporabljajo naše nove Batch API za asinhrono izvajanje nenujnih delovnih obremenitev. Paketne zahteve API imajo 50-odstotno nižjo ceno, ponujajo veliko višje omejitve stopnje in vrnejo rezultate v 24 urah. To je idealno za primere uporabe, kot je vrednotenje modela, klasifikacija brez povezave, povzemanje in ustvarjanje sintetičnih podatkov.

Načrtujemo, da bomo še naprej dodajali nove funkcije, osredotočene na varnost na ravni podjetja, administrativne kontrole in upravljanje stroškov. Za več informacij o teh lansiranjih obiščite našo Dokumentacija API or stopite v stik z našo ekipo za razpravo o rešitvah po meri za vaše podjetje.