Vi introduserer flere bedriftskvalitetsfunksjoner for API-kunder

For å hjelpe organisasjoner med å skalere AI-bruken uten å overutvide budsjettene, har vi lagt til to nye måter å redusere kostnadene på konsekvente og asynkrone arbeidsbelastninger:

• Rabattert bruk på forpliktet gjennomstrømning: Kunder med et vedvarende nivå av tokens per minute (TPM)-bruk på GPT-4 eller GPT-4 Turbo kan be om tilgang til klargjort gjennomstrømning for å få rabatter fra 10–50 % basert på størrelsen på forpliktelsen.
• Reduserte kostnader på asynkrone arbeidsbelastninger: Kunder kan bruke vår nye Batch API å kjøre ikke-hastende arbeidsbelastninger asynkront. Batch API-forespørsler er priset til 50 % rabatt på delte priser, tilbyr mye høyere rategrenser og gir resultater innen 24 timer. Dette er ideelt for brukstilfeller som modellevaluering, offline klassifisering, oppsummering og generering av syntetiske data.

Vi planlegger å fortsette å legge til nye funksjoner med fokus på sikkerhet i bedriftsklasse, administrative kontroller og kostnadsstyring. For mer informasjon om disse lanseringene, besøk vår API dokumentasjon or ta kontakt med teamet vårt for å diskutere tilpassede løsninger for din bedrift.