Daftar isi
Keterbatasan infrastruktur komputasi
Tantangan pertama menyangkut komputasi. Ketersediaan GPU dan kapasitas pemrosesan masih terbatas dibanding kebutuhan AI, menurut Jay.
Latensi bagi pengguna yang jauh dari pusat komputasi
Latensi adalah jeda waktu sebelum sistem memberi respons. Banyak infrastruktur AI berdiri terpusat karena sumber daya komputasi terbatas, sehingga pengguna yang jauh dari pusat komputasi berpotensi menerima respons lebih lambat daripada pengguna yang dekat.
Bagi Indonesia sebagai negara kepulauan, tantangan ini terasa lebih relevan. Akamai menilai letak geografis membuat konektivitas berlatensi rendah sulit konsisten di semua wilayah. Pemrosesan AI secara real-time bisa melambat bila cloud terpusat, sedangkan beban kerja yang disebar ke banyak daerah menuntut jaringan antardaerah yang andal.
Kedaulatan data dan kepatuhan regulasi
Agen AI berpotensi mengolah data sensitif di banyak lokasi. Saat data berpindah lintas negara (cross-border data flows), perusahaan menghadapi soal kepatuhan pada aturan pelindungan data, salah satunya UU PDP, atau Undang-Undang Pelindungan Data Pribadi, yang berlaku di Indonesia. Karena itu, perusahaan perlu kendali lebih besar atas tempat mereka mengolah dan menyimpan data.
Kesenjangan keamanan dan tata kelola AI
Agen AI yang bisa masuk ke sistem perusahaan dan bertindak sendiri memperbesar risiko keamanan. Akamai menyoroti dua ancaman: akses tanpa izin (unauthorized access) dan prompt injection, yaitu serangan lewat manipulasi prompt.
Jika agen AI memegang akses ke sistem internal, satu tindakan yang keliru bisa memperlebar dampak insiden keamanan. Alat untuk mengawasi gerak agen otonom pun belum selalu sanggup menyamai laju perkembangan AI.
Biaya infrastruktur dan ketergantungan pada satu penyedia
Biaya penerapan AI tidak hanya datang dari keterbatasan GPU dan memori. Perusahaan juga menanggung biaya sewa GPU, pemrosesan inference, dan pengiriman data keluar (data egress fees).
Ketergantungan pada model dan API proprietary milik satu penyedia, atau vendor lock-in, bisa membatasi fleksibilitas dan menaikkan biaya saat perusahaan ingin berpindah layanan.
“Dalam banyak kasus, untuk mempercepat adopsi AI, organisasi memilih satu penyedia teknologi tertentu dan menggunakan seluruh layanannya,” kata Jay. “Keputusan ini membuat perusahaan terikat pada model operasional dan biaya dari penyedia tersebut. Akibatnya, perusahaan menjadi sulit berpindah ketika kebutuhan atau teknologi berubah,” imbuhnya.
Padahal, kata Jay, teknologi berkembang sangat cepat, terutama dalam beberapa tahun terakhir.
Layanan Akamai untuk menjawab tantangan itu
Untuk menjawab tantangan itu, Akamai menyebut sudah menyiapkan sejumlah layanan infrastruktur AI, salah satunya Akamai Inference as a Service. Layanan tersebut bertumpu pada model open weight, yakni model AI yang bobot hasil pelatihannya terbuka bagi pengguna, dengan endpoint yang kompatibel dengan OpenAI API. Karena itu, perusahaan dapat menyambungkannya ke sistem yang sudah berjalan atau berganti model saat perlu.
Aaf Afiatna (Aura Pet) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Sumber: https://infotekno.net/adopsi-ai-di-perusahaan-agen-ai-akamai/
