Jumlah parameter tidak otomatis menentukan tingkat akurasi. Angka itu hanya salah satu ukuran.
GoTo menyebut model ini dapat berjalan di infrastruktur server milik universitas, startup, maupun institusi publik. Pengguna tidak perlu membangun pusat data berskala besar.
Meski demikian, kebutuhan komputasinya tetap cukup tinggi. Dokumentasi model mencantumkan kebutuhan memori GPU sekitar 54-60 GB.
Angka itu berlaku untuk menjalankan model pada presisi FP16 atau BF16. Dokumentasi merekomendasikan Nvidia A100 80 GB sebagai salah satu konfigurasi.
FP16 dan BF16 merupakan format angka berpresisi 16 bit yang dipakai untuk menyimpan bobot model.
Dengan kebutuhan memori sebesar itu, perangkat dengan GPU kecil belum memadai. Infrastruktur server tetap cukup, sedangkan pusat data raksasa tidak perlu.
Pengembang dapat mengakses model itu di Hugging Face dengan nama gemma3-27b-cpt-gotoai-v3-instruct.
Hugging Face memuat dokumentasi yang menjadi rujukan soal bahasa, memori GPU, dan lisensi. Model ini tersedia gratis, sehingga pengguna tidak membayar biaya untuk memakainya.
Bagi universitas, kombinasi model gratis dan infrastruktur server sendiri membuka ruang penelitian tanpa bergantung pada layanan luar negeri.
Bagi startup dan perusahaan, model ini menjadi dasar untuk membangun layanan AI berbahasa daerah. Peneliti dapat menguji kemampuan model itu pada bahasa daerah yang tercantum dalam dokumentasi.
GoTo menyebut teknologi ini sebagai model open source. Namun, dokumentasinya mencantumkan lisensi Gemma.
Karena itu, pengembang tetap perlu memperhatikan ketentuan penggunaan dan distribusinya. Status gratis tidak otomatis berarti bebas dari syarat.
Seperti model AI generatif lainnya, teknologi ini berpotensi menghasilkan jawaban keliru atau halusinasi. Pengembang perlu melakukan pengujian sebelum mengintegrasikannya ke layanan publik.
GoTo mengembangkan AI terbuka sejak 2024. Peluncuran model 27 miliar parameter ini melanjutkan upaya tersebut.
Perusahaan juga melibatkan mahasiswa magang dari tujuh universitas di Indonesia. Mereka terlibat dalam pengumpulan data, pelatihan, hingga pengujian model AI.
FAQ SCHEMA
Q: Apa itu model AI baru GoTo dengan 27 miliar parameter?
A: Model ini adalah large language model (LLM) berarsitektur Gemma 3 yang memahami bahasa Indonesia serta bahasa daerah. Dokumentasi di Hugging Face mencantumkan enam bahasa: Inggris, Indonesia, Jawa, Sunda, Bali, dan Batak Toba.
Q: Siapa yang boleh memakai model AI GoTo ini?
A: Model ini tersedia gratis bagi startup, perusahaan, universitas, peneliti, hingga institusi publik. Pengembang tetap perlu memperhatikan lisensi Gemma yang tercantum dalam dokumentasi.
Q: Berapa kebutuhan GPU untuk menjalankan model AI GoTo?
A: Dokumentasi mencantumkan kebutuhan memori GPU sekitar 54-60 GB pada presisi FP16 atau BF16. Nvidia A100 80 GB menjadi salah satu konfigurasi yang direkomendasikan.
Q: Berapa kapasitas konteks model AI GoTo?
A: Model ini memiliki kapasitas konteks hingga 128.000 token. Kapasitas itu memungkinkan AI memproses dokumen panjang atau percakapan dengan banyak informasi dalam satu permintaan.
Q: Dari mana GoTo mengumpulkan data pelatihan bahasa Batak?
A: GoTo menggandeng Universitas Sumatera Utara (USU) untuk mengumpulkan data bahasa Batak yang mencerminkan penggunaan bahasa tersebut saat ini.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Sumber: https://infotekno.net/goto-llm-gratis-gemma-3-bahasa-daerah-jawa-sunda-bali-batak/