Ketika Pemanfaatan AI Makin Serius, Apakah Semua Workload Harus Dibawa ke Cloud?

Perbedaan kebutuhan tersebut semakin terlihat ketika perusahaan memisahkan dua fase utama dalam AI, yakni training dan inference.

Training atau pelatihan model membutuhkan daya komputasi dan memori yang sangat besar. Kebutuhan ini dapat melonjak dalam periode tertentu sehingga membutuhkan fasilitas komputasi high-density.

Sementara inference, atau saat model AI digunakan dalam operasional sehari-hari, lebih menitikberatkan pada kecepatan respons dan kedekatan dengan pengguna maupun sumber data.

“AI memiliki dua fase utama yang kebutuhannya bertolak belakang,” kata Ariawan.

Karena itu, mendistribusikan workload berdasarkan karakteristiknya dapat membantu perusahaan menjaga performa sekaligus mengoptimalkan biaya.

Workload training dapat ditempatkan pada fasilitas dengan kapasitas komputasi besar, sedangkan inference dapat dijalankan lebih dekat dengan sumber data atau pengguna melalui data center lokal, private infrastructure, maupun edge computing.

BACA JUGA:Kenalan dengan Artificial Intelligence, Kecerdasan Buatan Layaknya Manusia

Biaya AI Bukan Hanya Harga Cloud

Persoalan biaya juga menjadi pertimbangan penting ketika perusahaan mulai meningkatkan penggunaan AI.

Menurut Ariawan, ada sejumlah biaya yang kerap luput dari perhitungan awal.

Pertama adalah biaya menyiapkan data.

Kualitas output AI sangat bergantung pada kualitas data yang digunakan. Data perusahaan yang tersebar, tidak terstruktur, atau memiliki kualitas rendah perlu dibersihkan dan disiapkan sebelum dapat dimanfaatkan secara optimal untuk AI.

“Banyak perusahaan luput memperhitungkan bahwa membersihkan dan menstrukturkan data sering kali membutuhkan biaya yang besar,” ujarnya.

BACA JUGA:Puan Maharani Sebut TNI Harus 'Melek' Artificial Intelligence

Kedua adalah biaya integrasi.

AI tidak berdiri sendiri. Model yang digunakan perusahaan harus terhubung dengan core system, aplikasi bisnis, database, dan berbagai platform yang sudah berjalan.

Sumber: