Ketika Pemanfaatan AI Makin Serius, Apakah Semua Workload Harus Dibawa ke Cloud?

Misalnya, ketika AI digunakan untuk memproses data transaksi pelanggan secara real-time, melatih model menggunakan rahasia dagang, atau menjadi bagian dari pengambilan keputusan operasional sehari-hari.

Pada tahap tersebut, menurut Ariawan, aspek seperti latency, tata kelola data, privasi, dan ketersediaan sistem menjadi semakin kritikal.

“Di titik inilah arsitektur data dan infrastruktur komputasi yang berdedikasi menjadi sebuah keharusan,” katanya.

BACA JUGA:PLN Perluas Penggunaan Artificial Intelligence untuk Tingkatkan Kualitas Layanan Pelanggan

Tidak Semua AI Workload Harus Berada di Satu Tempat

Salah satu anggapan yang mulai perlu ditinjau ulang adalah bahwa perusahaan harus memilih satu infrastruktur untuk seluruh kebutuhan AI.

Padahal, setiap workload memiliki karakteristik berbeda.

Public cloud memang memberikan fleksibilitas dan scalability yang tinggi. Perusahaan dapat menambah kapasitas komputasi dengan relatif cepat tanpa harus membangun seluruh infrastruktur sendiri.

Namun, ada workload yang membutuhkan kontrol lebih besar terhadap data, tingkat keamanan tertentu, integrasi dengan sistem internal, maupun latency yang sangat rendah.

BACA JUGA:PLN Perluas Penggunaan Artificial Intelligence untuk Tingkatkan Kualitas Layanan Pelanggan

Karena itu, pilihan antara public cloud, private cloud, on-premise, maupun hybrid infrastructure seharusnya tidak semata-mata didasarkan pada teknologi yang dianggap paling canggih.

“Public cloud menawarkan skalabilitas yang sangat cepat, tetapi ada kondisi di mana arsitektur hybrid atau private cloud menjadi jauh lebih ideal,” jelas Ariawan.

Menurut dia, kebutuhan privasi data, kepatuhan terhadap regulasi industri, serta kebutuhan latency menjadi sejumlah faktor yang perlu dipertimbangkan.

Model hybrid memungkinkan perusahaan menggunakan public cloud untuk kebutuhan yang membutuhkan kapasitas komputasi besar, sementara workload tertentu dapat dijalankan di private cloud atau fasilitas lokal.

Dengan pendekatan tersebut, perusahaan tidak harus memindahkan seluruh workload AI ke satu lingkungan.

BACA JUGA:BRIN: Tak Perlu Takut Berlebihan, Artificial Intelligence Milestone Perkembangan Teknologi

Training dan Inference Punya Kebutuhan Berbeda

Sumber: