Model Granite 3.2 hadir dengan berbagai peningkatan signifikan, termasuk model bahasa visual (VLM) baru yang mampu "memahami" dokumen dengan kinerja setara atau bahkan melampaui model yang jauh lebih besar. Selain itu, model ini juga dilengkapi dengan kemampuan chain of thought untuk penalaran yang ditingkatkan, serta Granite Guardian untuk keamanan siber yang lebih baik.
Semua model Granite 3.2 tersedia di bawah lisensi Apache 2.0 di Hugging Face, serta di platform IBM watsonx.ai, Ollama, Replicate, dan LM Studio. Model ini juga diharapkan akan segera hadir di RHEL AI 1.5.
Salah satu fitur unggulan dari Granite 3.2 adalah Visual Language Model (VLM) yang memungkinkan model untuk memproses dan memahami dokumen dengan lebih baik. Dalam pengujian, VLM ini menunjukkan kinerja yang setara atau melampaui model yang jauh lebih besar seperti Llama 3.2 11B dan Pixtral 12B pada benchmark perusahaan seperti DocVQA, ChartQA, AI2D, dan OCRBench.
IBM menggunakan Docling Toolkit open-source untuk memproses 85 juta PDF dan menghasilkan 26 juta pasangan pertanyaan-jawaban sintetis, yang secara signifikan meningkatkan kemampuan VLM dalam menangani alur kerja dokumen yang kompleks.
Selain itu, Granite 3.2 juga menawarkan kemampuan chain of thought untuk penalaran yang ditingkatkan pada model 2B dan 8B. Kemampuan ini memungkinkan model untuk mengaktifkan atau menonaktifkan penalaran sesuai kebutuhan, sehingga dapat mengoptimalkan efisiensi.
Model 8B menunjukkan peningkatan dua digit dari pendahulunya dalam mengikuti instruksi tanpa mengorbankan keamanan atau kinerja. Dengan metode inference scaling yang baru, model Granite 3.2 8B dapat menyaingi kinerja model yang jauh lebih besar seperti Claude 3.5 Sonnet atau GPT-4o pada benchmark penalaran matematika.
Untuk keamanan siber, Granite 3.2 menghadirkan opsi model sekuriti Granite Guardian yang lebih ramping, namun tetap mempertahankan kinerja model sebelumnya. Model 3.2 juga memperkenalkan fitur baru yang disebut verbalized confidence, yang menawarkan penilaian risiko yang lebih baik dengan memahami ambiguitas dalam pemantauan siber.
Strategi IBM untuk menyediakan model AI khusus yang lebih kecil bagi perusahaan terbukti memberikan hasil yang optimal. Model Granite 3.1 8B baru-baru ini mencetak nilai tinggi untuk akurasi dalam Salesforce LLM Benchmark untuk CRM. Ekosistem mitra yang kuat juga mendukung seri model Granite, termasuk perusahaan perangkat lunak terkemuka yang mengintegrasikan LLM ke dalam teknologi mereka.
David Tan, CTO CrushBank, mengatakan CrushBank telah melihat secara langsung bagaimana model AI IBM yang terbuka dan efisien memberikan nilai nyata untuk AI perusahaan - menawarkan keseimbangan yang tepat antara kinerja, efektivitas biaya, dan skalabilitas. "Granite 3.2 juga memberikan kemampuan penalaran yang baru, dan kami sangat senang bisa membangun solusi agen baru."
Granite 3.2 merupakan langkah penting dalam evolusi portofolio dan strategi IBM untuk menghadirkan AI kecil dan praktis bagi perusahaan. IBM memperkenalkan kemampuan untuk mengaktifkan atau menonaktifkan chain of thought secara terprogram, sehingga model dapat beroperasi tanpa penalaran untuk tugas yang lebih sederhana, mengurangi overhead komputasi yang tidak perlu.
Teknik penalaran lain seperti inference scaling juga menunjukkan bahwa model Granite 3.2 8B bisa setara atau melampaui kinerja model yang jauh lebih besar pada benchmark penalaran matematika standar.
Bersamaan dengan model instruksi, vision, dan pembatas Granite 3.2, IBM juga merilis generasi terbaru model TinyTimeMixers (TTM) dengan parameter di bawah 10 juta, yang memiliki kemampuan untuk forecasting jangka panjang hingga dua tahun ke depan. Ini menjadi alat yang ampuh dalam analisis tren jangka panjang, termasuk tren keuangan dan ekonomi, perkiraan permintaan rantai pasokan, dan perencanaan inventaris musiman di ritel.
Sriram Raghavan, VP, IBM AI Research, mengatakan, era AI berikutnya adalah tentang efisiensi, integrasi, dan dampak dunia nyata - di mana perusahaan dapat mencapai hasil yang kuat tanpa pengeluaran berlebihan untuk komputasi.
"Pengembangan Granite terbaru IBM berfokus pada solusi terbuka menunjukkan langkah maju dalam membuat AI lebih mudah diakses, hemat biaya, dan berharga bagi perusahaan modern."
Cek Berita dan Artikel yang lain di
Google News
