Under Fire Az FBI reklámblokkolók telepítését javasolja

Az OpenAI ChatGPT-jének üzemeltetési költségei a közösségi médiában elburjánzott spekulációk tárgyává váltak, és a becslések szerint napi 3 millió dollárra teszik a költségeket.

A népszerű chatbot egy internetes szenzáció annak köszönhetően, hogy képes gyorsan válaszolni számos témában felmerülő kérdésekre, kódot írni és/vagy hibakeresni, és még eredeti költészetet alkotni. A kérdés most az, hogy mennyibe kerül ez a számítási teljesítmény.

A ChatGPT nagyon drága

A ChatGPT üzemeltetésének költségei heves vita tárgyává váltak a közösségi médiában, egyesek borsos árcédulát helyeztek el a szolgáltatáson.

A ChatGPT költséges @OpenAI becslések szerint napi 3 millió dollár a futásra 🤯

– Shaun Els (@ShaunEls) December 18, 2022

A ChatGPT-t üzemeltető OpenAI-csapat azzal gerjesztette a spekulációt, hogy konkrétumok nélkül elismerte a költségeit.

On december 5, az OpenAI vezérigazgatója, Sam Altman a következőket mondta: „Valamikor pénzzé kell válnunk; a számítási költségek szemet gyönyörködtetőek.”

Egy későbbi Twitteren beszélgetés val vel Elon MuskAltman így folytatta: az átlagos beszélgetés költsége „valószínűleg egy számjegyű cent csevegésenként; megpróbáljuk pontosabban kitalálni, és azt is, hogyan tudjuk optimalizálni.” 

Mivel egy csevegés számos lekérdezést veszélyeztethet, és mivel nem lehet tudni, hogy egy átlagos csevegésben hány lekérdezés van, a költségek kiszámítása rendkívül nehézzé válik.

3 millió dollár ésszerűtlen?

A hét elején Twitter-felhasználó Shaun Els kirobbantotta a vitát arról, hogy pontosan mennyire szemet gyönyörködtetőek ezek a számok. Els szerint a ChatGPT üzemeltetésének költsége 3 millió dollár naponta. Kérésre Els később egy sajtóorgánum podcastjára hivatkozott The Verge mint kiinduló forrása.

Az állítást több másként gondolkodó gyorsan megcáfolta. Egy kommentátorként mondott, "Köszönöm, hogy ezt tetted közzé forrásként, mert most már tudom, hogy ez egy teljesen megbízhatatlan becslés."

On December 6, Tom Goldstein, a marylandi docens összeroppantotta a számokat, és arra a következtetésre jutott: „Úgy gondolom, ésszerű a becslés, hogy a ChatGPT naponta körülbelül 10 millió lekérdezést szolgál ki. Becslésem szerint a ChatGPT üzemeltetésének költsége napi 100 3 dollár, vagyis havi XNUMX millió dollár.”

Goldstein saját becslése alapján néhány egészségügyi figyelmeztetést közölt, mondván: „Ez egy borítékolható számítás”.

A ChatGPT költségeire vonatkozó egyéb becslések ettől eltérőek voltak Havi 1.5 millió dollár nak nek 8 millió dollár havonta. 

Ami a napi 3 millió dollárt illeti, lehetséges, hogy ez a kiugró becslés zűrzavar eredménye, téves emlékezés Goldstein havi 3 millió dolláros becslésére? Ha igen, az nagyon emberi hiba lenne.

A forrás egy TikTok videó egy podcastról, ahol valaki nagyjából emlékszik arra, hogy valaki más számolt úgy, hogy kitalálta az értékeket, és megszorozta azokat más kitalált értékekkel.

- Alice und Bob (@alice_und_bob) December 19, 2022

A ChatGPT összeomlik a MetaNews-szal

A ChatGPT futtatásának valódi költségeinek kiderítéséhez a MetaNews a kérdést a forráshoz vezette. A MetaNews megkérdezte a ChatGPT-t, hogy mennyibe kerül az üzemeltetés. A botnak nem volt kedve felfedni titkait.

"Sajnálom, de nem tudok tájékoztatást adni a ChatGPT vagy bármely más nyelvi modell üzemeltetésének költségeiről" - mondta a ChatGPT.

"A gépi tanulási modell futtatásának költsége számos tényezőtől függhet, beleértve a modell betanításához és kiszolgálásához használt hardvert és infrastruktúrát, a modell betanításához felhasznált adatok mennyiségét és magának a modellnek a bonyolultságát" - tette hozzá az AI. . „Azt is fontos megjegyezni, hogy az olyan nyelvi modelleket, mint a ChatGPT, jellemzően nagy mennyiségű adatra tanítják, és jelentős számítási erőforrásokat igényelhetnek a betanításuk, így a képzés és a működtetés költségei nagyon eltérőek lehetnek.”