Pusat data Fintech menghadapi “paradoks energi” GenAI

Pusat data Fintech menghadapi “paradoks energi” GenAI

Pusat data Fintech menghadapi “paradoks energi” GenAI PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Pusat data membuat dunia berputar. Bangunan-bangunan ini menampung server yang menyimpan dan menghitung setiap fungsi digital yang dijalankan masyarakat kita. “Cloud” sangat bergantung pada rak-rak komputer yang saling berdekatan, yang pada gilirannya bergantung pada energi, sistem pendingin, dan konektivitas, yang menjalankan keseluruhan switchgear dan kabel, kabel bawah laut, hingga siaran satelit.

Kecerdasan buatan generatif semakin meningkatkan permintaan akan pusat data, namun hal ini juga menciptakan tantangan besar. Model bahasa besar seperti ChatGPT mengandalkan unit pemrosesan grafis Nvidia untuk melatih model AI, dan chip ini adalah perangkat yang tidak pernah puas dan haus energi.

“AI generatif bukan sekadar menambah lebih banyak rak,” kata Steven Lee, direktur di Schneider Electric, pakar otomasi digital dan manajemen energi, yang berbicara pada konferensi baru-baru ini. “Ini mengubah paradigma pusat data.”

Mulai dari keuangan hingga fintech

Pusat data adalah tulang punggung fintech dan keuangan yang tidak menarik. Ekosistem terbesar berada di AS (Virginia bagian utara dan Portland, Oregon), begitu pula Singapura dan Hong Kong, berkat peran mereka sebagai pusat keuangan global.

Lembaga keuangan telah menjadi pelanggan terbesar pusat data di pusat-pusat Asia ini, bersama dengan perusahaan telekomunikasi.

Namun, corak tersebut kini berubah, seiring bermunculannya pelanggan baru yang bersaing untuk mendapatkan rak dan sumber daya. Industri ini tidak dapat membangun cukup pusat data dengan cukup cepat.

Gelombang AI sudah melanda Amerika, dan akan menyebar ke pusat data Asia dalam dua tahun ke depan, kata Andrew Green dari JLL, sebuah konsultan properti komersial.

Kelompok pemain besar baru ini adalah hyperscaler, sebuah istilah yang mencakup penyedia cloud besar dan perusahaan internet seperti AWS, Meta, atau TikTok. Kehausan mereka akan komputasi memaksa pusat data menjadi lebih besar, lebih fleksibel, dan lebih sesuai pesanan.

Diperlukan pusat data baru

Hal ini mengubah persyaratan desain untuk pusat data. Bank dan perusahaan asuransi sudah puas dengan pusat data kolokasi tradisional, yang lebih murah karena menawarkan infrastruktur standar. Hyperscale diperlukan untuk pekerjaan intensif pemrosesan dan rangkaian aplikasi yang lebih luas, termasuk konten digital, media sosial, streaming video, e-commerce, mata uang kripto, dan pembayaran seluler.

Dan sekarang tambahkan genAI ke dalam daftar, yang benar-benar merupakan bahan bakar. Lee mengatakan kueri ChatGPT menghabiskan energi 10 kali lebih banyak dibandingkan penelusuran di Google. Sepuluh kali!



Hal ini merupakan tambahan dari peralihan yang lebih luas ke arah digitalisasi di seluruh dunia, dengan Covid sebagai akselerasi utama ketika pekerjaan dan kehidupan menjadi semakin sulit. Salah satu contohnya: jumlah pengguna harian Microsoft Teams meningkat dari 20 juta pada tahun 2019 menjadi 300 juta pada tahun 2023, kata Damon Lim dari datacenterHawk, sebuah firma riset real estat yang berfokus pada pusat data.

Pada tahun 2030 akan ada 7.5 miliar orang yang menggunakan internet, atau sekitar 90 persen populasi global. Permintaan inilah yang menjadi alasan kemungkinan akan ada lebih dari 1,000 pusat data skala besar yang beroperasi pada akhir tahun ini.

Paradoks atau permainan kekuasaan?

Hasilnya adalah peningkatan konsumsi daya pusat data sebesar empat kali lipat antara sekarang hingga tahun 2028, kata Lee. “Ini adalah paradoks energi dari konsumsi yang sangat besar,” katanya. 

Namun tidak ada hal yang paradoks di sini: seiring dengan digitalisasi yang dilakukan masyarakat, biaya energi untuk mendukung tren tersebut meningkat secara eksponensial, sehingga 'penghijauan' pusat data sangatlah penting. Dan trennya bersifat global. Misalnya, penggunaan AI kini menyumbang sekitar 8 persen konsumsi pusat data di Asia Tenggara. Angka tersebut diperkirakan akan meningkat lebih dari dua kali lipat pada tahun 2028.

Tren ini juga semakin menyebar, sehingga semakin sulit untuk mewujudkannya secara berkelanjutan. Jika hanya menyangkut pusat data, fokus ramah lingkungan dapat diarahkan pada pembangunan baru atau perbaikan bangunan yang sudah ada. Faktanya, hampir semua beban kerja terkait AI saat ini disimpan dan dihitung secara terpusat di pusat data. Namun tugas-tugas ini semakin banyak dilakukan di 'edge', mendistribusikannya dekat dengan sumber data (seperti gedung atau mesin, atau mungkin ponsel Anda). Gunakan AI sebagai prioritas utama, dan kebutuhan listrik akan terus meningkat – dan menyebar.

Secara teori, pengembang pusat data merespons hal ini dengan menjadikan rak server lebih hemat energi, mengubah cara mendinginkan komputer (tantangan khusus bagi pusat data di lokasi yang panas dan tropis), dan menyambungkan ke sumber listrik yang lebih bergantung pada energi terbarukan. .

Apa yang terdengar bagus di atas kertas, sulit dan mahal untuk dilaksanakan. Pusat data belum dirancang dengan mempertimbangkan kebutuhan ini.

Rosanna Tang, peneliti di Cushman & Wakefield, sebuah konsultan properti, mencatat bahwa di Hong Kong, 44 persen pusat data berlokasi di bangunan industri tua.

Pusat-pusat ini tidak dapat menangani pemrosesan tugas berat. Mereka mungkin hanya dapat mengonsumsi 10 hingga 15 kilowatt per rak untuk memenuhi kebutuhan komputasi, sedangkan kebutuhan hyperscaler biasanya menghabiskan 40 kw/rak, dan beberapa memerlukan hingga 100kw/rak.

“Anda memerlukan infrastruktur khusus untuk menyediakan tingkat pendinginan dan dukungan listrik,” kata Patrick McCreary dari Yondr Group, operator dan pengembang skala besar.

Kasus khusus Hong Kong

Di Hong Kong, hal ini berarti membangun lebih banyak pusat di wilayah baru. Sebagian besar pusat data kota ini berada di Kowloon, terutama di sekitar hub di Tseung Kwan O. Namun janji Greater Bay Area dan integrasi dengan kota-kota tetangga di daratan berarti pusat data generasi baru akan dibangun di sepanjang perbatasan Shenzhen, yang mana pemerintah daerah mencapnya sebagai 'Metropolis Utara'.

Pusat data merupakan permasalahan yang unik di Hong Kong karena kurangnya lahan yang tersedia dan harga sewa yang luar biasa, ditambah dengan peraturan yang ketat mengenai proyek bangunan. Green dari JLL memperkirakan semakin banyak pusat data yang beroperasi, hyperscaler akan menghabiskan kapasitas baru.

Ia mengatakan pengaturan berbagi data lintas batas akan mendorong permintaan baru di Singapura dan Hong Kong. Dalam kasus Singapura, pemerintah telah menerapkan beberapa aturan berbagi data dengan Johor Bahru di Malaysia, negara tetangganya. Namun guncangan terbesar akan terjadi di Greater Bay Area. Green mencatat bahwa otoritas Hong Kong dan daratan telah menyetujui mekanisme untuk berbagi data privasi.

“Tanpa ini, GBA tidak akan ada,” kata Green. “Ini adalah pengubah permainan.” Hal ini akan memudahkan perusahaan-perusahaan di Tiongkok daratan untuk menggunakan Hong Kong sebagai batu loncatan untuk mengglobalkan bisnis mereka, dalam industri apa pun.

Kini industri pusat data akan membangun kapasitas yang besar untuk memenuhi permintaan terkait GBA dan AI. Industri fintech akan menjadi salah satu penerima manfaat (dan pelanggan yang signifikan). Namun apakah lokasi-lokasi baru ini akan dirancang untuk memaksimalkan efisiensi listrik dan melakukan dekarbonisasi? Rekam jejaknya sejauh ini tidak menggembirakan, dan biaya awal untuk melakukan tindakan ramah lingkungan relatif tinggi. Industri pusat data, yang semakin banyak dibangun untuk genAI, dapat memberikan dampak yang sangat besar terhadap bencana iklim seperti halnya ekonomi digital.

Stempel Waktu:

Lebih dari Menggali Fin