jurnalistik.co.id – Nvidia memperkenalkan Nemotron 3.5 Lightning, sebuah model kecerdasan buatan (AI) yang dirancang untuk menyesuaikan pemakaian sesuai kebutuhan tiap tugas. Perusahaan juga menghadirkan NeMo Switchyard, library open source yang berfokus pada routing atau pemilihan model AI berdasarkan jenis pekerjaan.
Menurut Nvidia, pendekatan ini menjawab tantangan perusahaan yang kini kerap harus memilih model AI berbeda-beda. Tidak semua pekerjaan membutuhkan kemampuan penalaran tinggi dari model berukuran besar, sehingga efisiensi biaya dan kecepatan menjadi pertimbangan penting.
Untuk tugas yang tergolong sederhana namun dilakukan dalam jumlah besar, Nvidia menyarankan penggunaan model yang lebih kecil agar proses berjalan lebih cepat dan hemat sumber daya. Sebaliknya, ketika pekerjaan menuntut kompleksitas lebih tinggi, model dengan kemampuan penalaran yang lebih kuat dapat dipilih untuk menjaga kualitas hasil.
Nemotron 3.5 Lightning dengan arsitektur mixture-of-experts
Nemotron 3.5 Lightning adalah model AI dengan 30 miliar parameter (30B). Model ini memakai arsitektur mixture-of-experts (MoE), yang memungkinkan sistem bekerja dengan mekanisme pakar untuk menyesuaikan respons berdasarkan tuntutan tugas.
Model ini menjadi bagian dari keluarga Nemotron yang diperkenalkan Nvidia pada Desember 2025. Saat itu, Nvidia menjadikannya fondasi terbuka untuk sistem AI agentic, yaitu sistem yang dapat menjalankan rangkaian aksi berdasarkan tujuan pengguna atau konteks tertentu.
Nvidia mengklaim Nemotron 3.5 Lightning mampu menghasilkan output hingga empat kali lebih cepat. Selain itu, untuk penyelesaian tugas agentic, perusahaan menyebut model ini dapat bekerja hingga 30 persen lebih cepat dibandingkan model lain di kelas yang sama.
Kustomisasi lebih cepat lewat post-training
Salah satu sorotan utama Nemotron 3.5 Lightning adalah kemudahan kustomisasi. Nvidia menyatakan perusahaan dapat melakukan post-training menggunakan Nvidia NeMo memakai data, perangkat, serta alur kerja internal miliknya.
Dengan skema ini, model dapat disesuaikan untuk kebutuhan spesifik tanpa harus membangun model dari awal. Nvidia juga merilis dataset post-training, sekaligus resep dan framework yang digunakan untuk melatih Nemotron.
Berita Terkait
Dalam penjelasannya, Nvidia menyebut pengembang bisa menggabungkan dataset milik Nvidia dengan data perusahaan. Kombinasi tersebut dimaksudkan agar hasil pelatihan lebih relevan dengan kebutuhan masing-masing organisasi.
Nvidia juga menegaskan tingkat kustomisasi tersebut dapat dijalankan dengan hardware yang relatif sederhana. Sebagai contoh, mitranya CodeRabbit disebut menggunakan resep pelatihan standar Nvidia untuk melatih model selama satu epoch.
CodeRabbit mengklaim proses itu menelan biaya sekitar 85 dolar AS (sekitar Rp 1,5 juta) dan memakan waktu sekitar dua jam. Contoh tersebut memperlihatkan bagaimana kustomisasi model ditargetkan tidak selalu membutuhkan investasi besar, terutama untuk kebutuhan penyesuaian yang lebih spesifik.
NeMo Switchyard untuk routing model sesuai kebutuhan
Selain model AI baru, Nvidia memperkenalkan NeMo Switchyard, sebuah pustaka open source yang berfokus pada routing model. Ide utamanya adalah membantu agen AI menentukan model mana yang paling sesuai saat mengerjakan suatu tugas.
Dalam satu sistem agen AI, berbagai jenis pekerjaan bisa muncul bergantian. Ada tugas yang lebih menuntut kecepatan dan kemampuan dasar, sementara tugas lain memerlukan kemampuan coding, pemahaman konteks, hingga penalaran yang lebih kompleks.
NeMo Switchyard dirancang untuk memilih model berdasarkan kebutuhan tersebut. Pengembang dapat menentukan strategi routing memakai prioritas seperti kualitas jawaban, biaya, kecepatan, maupun latensi, sehingga keputusan pemilihan model bisa disesuaikan dengan target operasional.
Nvidia menekankan bahwa pendekatan seperti ini membuat perusahaan tidak perlu selalu memakai model yang paling mahal untuk setiap permintaan. Tugas yang sifatnya lebih ringan dapat diarahkan ke model yang lebih ringan, sementara pekerjaan yang lebih menantang dapat dialihkan ke model dengan kemampuan lebih tinggi agar hasilnya tetap sesuai ekspektasi.
NeMo Switchyard juga disebut Nvidia dikembangkan bersama sejumlah pihak di ekosistem AI. Di antaranya Boomi, Cadence Design Systems, Classmethod, Cognition AI, Kong, LangChain, Nous Research, dan Siemens.
Dengan rangkaian pembaruan ini, Nvidia ingin memberi perusahaan alat untuk menyusun strategi pemanfaatan AI yang lebih fleksibel. Intinya, pemilihan model tidak lagi bersifat satu ukuran untuk semua, melainkan ditentukan oleh karakter tugas yang sedang dikerjakan.
Pada akhirnya, kombinasi Nemotron 3.5 Lightning dan NeMo Switchyard diarahkan untuk meningkatkan efisiensi dalam implementasi AI agentic. Kecepatan keluaran, percepatan penyelesaian tugas, serta kemungkinan kustomisasi yang lebih cepat menjadi bagian dari pesan utama yang dibawa Nvidia dalam rilis ini.
