Introduktion af flere funktioner i virksomhedskvalitet til API-kunder

For at hjælpe organisationer med at skalere deres AI-brug uden at overudvide deres budgetter, har vi tilføjet to nye måder at reducere omkostningerne på konsekvente og asynkrone arbejdsbelastninger:

• Rabatteret brug på forpligtet gennemløb: Kunder med et vedvarende niveau af tokens per minute (TPM)-brug på GPT-4 eller GPT-4 Turbo kan anmode om adgang til klargjort gennemløb for at få rabatter på mellem 10-50 % baseret på forpligtelsens størrelse.
• Reducerede omkostninger på asynkrone arbejdsbelastninger: Kunder kan bruge vores nye Batch API at køre ikke-hastende arbejdsbelastninger asynkront. Batch API-anmodninger er prissat til 50 % rabat på delte priser, tilbyder meget højere satsgrænser og returnerer resultater inden for 24 timer. Dette er ideelt til brugstilfælde som modelevaluering, offline klassificering, opsummering og generering af syntetiske data.

Vi planlægger at blive ved med at tilføje nye funktioner med fokus på sikkerhed i virksomhedskvalitet, administrative kontroller og omkostningsstyring. For mere information om disse lanceringer, besøg vores API dokumentation or komme i kontakt med vores team for at diskutere skræddersyede løsninger til din virksomhed.