Daftar isi
Akamai menawarkan dua pendekatan: serverless inference dan dedicated inference. Lewat serverless inference, perusahaan tak perlu mengurus sendiri infrastruktur komputasi dan daur hidup model AI; Akamai yang mengelola dan menyesuaikan kapasitas layanan.
“Organisasi cukup membayar berdasarkan penggunaan,” kata Jay.
Pendekatan serverless cocok bagi perusahaan yang belum bisa memperkirakan kebutuhan komputasinya atau punya beban kerja AI yang berubah-ubah. Perusahaan juga bisa bereksperimen tanpa menyiapkan infrastruktur khusus sejak awal.
Pendekatan dedicated inference memberi perusahaan infrastruktur komputasi khusus yang dapat dijangkau lewat endpoint. Akamai menyasar perusahaan yang telah tahu berapa kapasitas yang mereka butuhkan dan sanggup mengelola infrastruktur sendiri.
Akamai juga menyebut punya model AI untuk penalaran kompleks, riset mendalam, dan penulisan kode, serta model berbasis retrieval-augmented generation (RAG) yang membantu mengecek informasi dan menekan halusinasi AI. Cakupan pemakaiannya meliputi inference skala besar, analisis dokumen, post-training, dan fine-tuning (penyesuaian model).
Akamai Agent Sandbox untuk membatasi ruang gerak agen
Untuk urusan keamanan, Akamai juga memperkenalkan Akamai Agent Sandbox. Layanan ini menyiapkan lingkungan eksekusi kode yang terisolasi dengan WebAssembly dan Spin SDK. Sandbox adalah ruang terpisah tempat program berjalan tanpa menyentuh sistem lain.
Agen AI bisa menulis dan menjalankan kode tanpa kebebasan menyentuh seluruh sistem perusahaan. Akses agen terbatas pada sumber daya yang mendapat izin eksplisit.
Akamai beralasan WebAssembly sudah membawa mekanisme sandboxing sendiri. Pendekatan ini bertumpu pada Spin SDK, perangkat open source yang digarap bersama Cloud Native Computing Foundation (CNCF). Dengan sandbox itu, perusahaan bisa mempersempit ruang gerak agen AI pada tiap tahap eksekusi kode dan menekan peluang tindakan yang tidak diinginkan.
Saran Jay: matangkan workflow dan bangun kepercayaan bertahap
Di luar infrastruktur dan solusi Akamai, Jay menekankan kesiapan perusahaan, terutama tata kelola yang matang. Ia menyarankan perusahaan tidak langsung menyerahkan semua tugas dan kepercayaan kepada agen AI, melainkan membangunnya bertahap, mulai dari menetapkan alur kerja dan batasan tugas bagi agen.
“Pendekatannya kurang lebih sama seperti ketika perusahaan memberikan tugas kepada karyawan manusia,” kata Jay.
Langkah berikutnya, perusahaan memantau keputusan yang AI ambil dan mencari anomali atau tindakan yang keluar dari prosedur normal. Jay juga meminta perusahaan memahami dulu alur kerja normal (happy path), kemudian menandai skenario pengecualian (exception paths) yang bisa muncul saat agen AI bekerja.
Pada tahap awal, Jay menyarankan mekanisme human-in-the-loop, yakni manusia tetap ikut memeriksa dan mengesahkan keputusan AI.
“Salah satu contohnya adalah proses maker-checker yang umum digunakan di industri keuangan. Dalam mekanisme ini, AI terlebih dahulu mengambil keputusan, kemudian manusia memeriksa dan memvalidasi keputusan tersebut,” jelas Jay.
Aaf Afiatna (Aura Pet) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Sumber: https://infotekno.net/adopsi-ai-di-perusahaan-agen-ai-akamai/
