Under Fire FBI Merekomendasikan Memasang Pemblokir Iklan

Biaya menjalankan ChatGPT OpenAI telah menjadi subjek spekulasi yang merajalela di media sosial dengan perkiraan biaya $3 juta per hari.

Chatbot populer telah menjadi sensasi internet berkat kemampuannya untuk menjawab pertanyaan dengan cepat tentang berbagai topik, menulis dan/atau men-debug kode, dan bahkan membuat puisi asli. Pertanyaannya sekarang adalah berapa biaya daya komputasi itu.

ChatGPT sangat mahal

Biaya menjalankan ChatGPT telah menjadi bahan perdebatan sengit di media sosial, dengan beberapa orang memberi label harga yang lumayan pada layanan tersebut.

ChatGPT berharga mahal @OpenAI sekitar $3M per hari untuk dijalankan 🤯

— Shaun Els (@ShaunEls) Desember 18, 2022

Tim OpenAI, yang mengoperasikan ChatGPT, telah memicu spekulasi tersebut dengan mengakui biayanya tanpa spesifik.

On Desember 5, CEO OpenAI Sam Altman berkata, “Kita harus memonetisasinya entah bagaimana di beberapa titik; biaya komputasinya menggiurkan.”

Di Twitter nanti percakapan dengan Elon Musk, Altman melanjutkan dengan mengatakan biaya percakapan rata-rata, “mungkin satu digit sen per obrolan; mencoba mencari tahu lebih tepat dan juga bagaimana kita bisa mengoptimalkannya.” 

Karena obrolan dapat mengkompromikan sejumlah kueri dan karena tidak ada cara untuk mengetahui berapa banyak kueri dalam obrolan rata-rata, mencari tahu biayanya menjadi sangat sulit.

Apakah $3 juta tidak masuk akal?

Awal pekan ini pengguna Twitter Shaun Els memicu perdebatan tentang seberapa menarik angka-angka itu. Menurut Els, biaya menjalankan ChatGPT adalah $3 juta per hari. Atas permintaan, Els kemudian mengutip podcast dari outlet media Verge sebagai sumber awalnya.

Klaim itu dengan cepat dibantah oleh banyak pembangkang. Sebagai salah satu komentator tersebut, "Terima kasih telah memposting ini sebagai sumber, karena sekarang saya tahu ini adalah perkiraan yang sama sekali tidak dapat diandalkan."

On Desember 6, Tom Goldstein, Associate Professor di Maryland menghitung angka dan menyimpulkan, “Menurut saya masuk akal untuk memperkirakan bahwa ChatGPT melayani ~10 juta kueri per hari. Saya memperkirakan biaya menjalankan ChatGPT adalah $100K per hari, atau $3M per bulan.”

Goldstein melanjutkan dengan memberikan beberapa peringatan kesehatan pada perkiraannya sendiri dengan mengatakan "Ini adalah perhitungan di belakang amplop."

Perkiraan lain tentang biaya ChatGPT bervariasi dari $ 1.5 juta per bulan untuk $ 8 juta sebulan. 

Mengenai angka $3 juta per hari, mungkinkah perkiraan outlier ini adalah hasil dari kebingungan, karena salah mengingat perkiraan $3 juta per bulan dari Goldstein? Jika demikian, itu akan menjadi kesalahan yang sangat manusiawi.

Sumbernya adalah video TikTok dari podcast di mana seseorang secara kasar ingat bahwa orang lain menghitung dengan menebak nilai dan mengalikannya dengan nilai tebakan lainnya.

— Alice dan Bob (@alice_und_bob) Desember 19, 2022

ChatGPT menjadi cerdik dengan MetaNews

Untuk mengetahui biaya sebenarnya menjalankan ChatGPT MetaNews, ajukan pertanyaan ke sumbernya. MetaNews bertanya kepada ChatGPT berapa biaya untuk menjalankannya. Bot sedang tidak ingin mengungkapkan rahasianya.

“Maaf, tetapi saya tidak dapat memberikan informasi tentang biaya menjalankan ChatGPT atau model bahasa khusus lainnya,” kata ChatGPT.

“Biaya menjalankan model pembelajaran mesin dapat bergantung pada berbagai faktor, termasuk perangkat keras dan infrastruktur yang digunakan untuk melatih dan melayani model, jumlah data yang digunakan untuk melatih model, dan kerumitan model itu sendiri,” tambah AI . “Penting juga untuk dicatat bahwa model bahasa seperti ChatGPT biasanya dilatih pada data dalam jumlah besar dan dapat memerlukan sumber daya komputasi yang signifikan untuk melatihnya, sehingga biaya pelatihan dan menjalankannya dapat sangat bervariasi.”