Dukungan GPU di Cloud Run Kini Tersedia
Cloud Run kini secara resmi Tersedia Secara Umum (GA) dengan dukungan GPU (Graphics Processing Unit). Penambahan kapabilitas ini memungkinkan pengguna menjalankan beban kerja komputasi intensif yang sebelumnya hanya mungkin di lingkungan terkelola atau infrastruktur yang lebih kompleks, kini dalam model serverless yang disederhanakan.
Manfaat Kunci Serverless dengan GPU
Menggabungkan kekuatan GPU dengan model serverless Cloud Run menghadirkan beberapa keunggulan signifikan. Pengguna mendapatkan skalabilitas otomatis berdasarkan permintaan, yang berarti aplikasi dapat menangani lonjakan lalu lintas tanpa intervensi manual. Model serverless juga menghilangkan kebutuhan untuk mengelola infrastruktur dasar seperti server atau kluster, sangat menyederhanakan operasional. Dari sisi biaya, model Cloud Run yang efisiensi biaya dengan pembayaran berbasis penggunaan (bayar per detik) dan kemampuan scale-to-zero saat tidak ada permintaan, menjadi sangat atraktif untuk beban kerja yang bervariasi.
Kasus Penggunaan Utama
Dukungan GPU di Cloud Run sangat ideal untuk berbagai kasus penggunaan yang membutuhkan akselerasi komputasi tinggi. Salah satu area utama adalah Inferensi Pembelajaran Mesin (ML), termasuk penggunaan model bahasa besar (LLM), pengenalan gambar, atau pemrosesan suara. Selain itu, kasus penggunaan lain yang diuntungkan adalah pemrosesan gambar dan video, simulasi ilmiah, analisis data paralel, dan tugas komputasi intensif lainnya.
Konfigurasi dan Ketersediaan GPU
Pengguna dapat mengkonfigurasi layanan Cloud Run mereka untuk menggunakan GPU dengan menentukan jenis dan jumlah GPU per instance. Jenis GPU yang didukung mencakup NVIDIA L4, T4, V100, dan A100, memberikan fleksibilitas untuk memilih hardware yang paling sesuai dengan kebutuhan beban kerja. Konfigurasi ini dapat dilakukan saat membuat atau memperbarui layanan Cloud Run.
Model Harga Cloud Run dengan GPU
Penetapan harga untuk penggunaan GPU di Cloud Run mengikuti model bayar per detik yang sama dengan sumber daya komputasi lainnya di Cloud Run. Biaya dihitung berdasarkan durasi penggunaan GPU dan jenis GPU yang dipilih per instance. Ini memastikan bahwa pengguna hanya membayar untuk sumber daya GPU yang mereka gunakan secara aktif, mendukung model efisiensi biaya.
Sumber: https://cloud.google.com/blog/products/serverless/cloud-run-gpus-are-now-generally-available/