Terpisah dari National University of Singapore dan Tsinghua University, 6Estates berfokus pada penyediaan solusi yang didukung model bahasa besar (LLM) khusus domain untuk perusahaan. 6Estates juga merupakan anggota NVIDIA Inception, sebuah program untuk startup mutakhir yang merevolusi industri dengan kemajuan teknologi.
DGX BasePOD memanfaatkan platform pusat data full-stack NVIDIA, termasuk komputasi, penyimpanan, jaringan, perangkat lunak, dan manajemen infrastruktur terkemuka di industri, semuanya dioptimalkan untuk bekerja sama dan memberikan kinerja maksimal dalam skala besar.
6Estates berencana menggunakan NVIDIA DGX BasePOD untuk penawaran Model Solutions barunya, yang memberdayakan perusahaan dengan LLM dan aplikasi khusus domain yang disesuaikan. Perusahaan juga akan memiliki akses ke perangkat lunak NVIDIA AI Enterprise untuk produksi AI yang aman, stabil, dan didukung.
Lapisan perangkat lunak platform AI NVIDIA, NVIDIA AI Enterprise, menawarkan 100+ kerangka kerja, model terlatih, dan alat pengembangan untuk mempercepat ilmu data dan menyederhanakan penerapan AI generatif siap produksi, visi komputer, AI ucapan, dan banyak lagi.
Klaster ini juga akan mendukung solusi AI 6Estates yang sudah ada – yaitu platform Intelligent Document Processing (Pemrosesan Dokumen Cerdas), yang mengotomatiskan pemrosesan dan analisis untuk dokumen tidak terstruktur dan bebas template, serta mengotomatiskan alur kerja untuk pemberi pinjaman dan perusahaan perdagangan dari ujung ke ujung.
“Terdapat potensi besar bagi AI Generatif untuk mengubah cara bisnis beroperasi – mulai dari cara mereka menjalankan proses internal hingga cara mereka memahami dan melayani basis pelanggan. Kami melihat permintaan yang luar biasa dari pelanggan yang ingin menerapkan solusi LLM yang sangat disesuaikan dan sesuai dengan kebutuhan. jaminan keamanan tertinggi, dan kami sangat bersemangat untuk mewujudkannya bagi perusahaan-perusahaan di kawasan ini,” kata Luan Huanbo, Pendiri dan CEO 6Estates.
Pelatihan dan Inferensi Model Generasi Berikutnya
Sistem NVIDIA DGX H100 membentuk landasan platform komputasi AI tercanggih dan terkuat di dunia. Setiap sistem berisi delapan GPU NVIDIA H100 Tensor Core, yang dilengkapi Transformer Engine baru, kemampuan GPU Multi-Instance generasi kedua yang aman, dan konektivitas NVIDIA NVLink generasi keempat.
Dengan sistem DGX H100, 6Estates dapat mencapai kecepatan hingga 4x lebih tinggi untuk pelatihan AI GPT-3 dan kecepatan hingga 30x lebih tinggi untuk inferensi AI dibandingkan generasi sebelumnya.
Menggunakan NVIDIA DGX H100, 6Estates akan mempersingkat waktu pelatihan model secara signifikan untuk memberikan layanan Solusi Model yang lebih cepat kepada pelanggan perusahaan.
Cluster NVIDIA DGX BasePOD 6Estates dengan sistem NVIDIA DGX H100 dapat membantu mendukung pelatihan LLM khusus domain dan penerapan di lokasi kepada pelanggan.
“Mendukung perusahaan besar yang perlu memproses dan memahami sejumlah besar data pelanggan untuk mengembangkan LLM yang benar-benar transformasional memerlukan sumber daya komputasi yang signifikan – NVIDIA DGX H100 memberikan akses ke kinerja terdepan di industri yang diperlukan untuk melakukannya,” kata Luan.
“AI Generatif membantu bisnis di seluruh industri menciptakan peluang baru dan melayani pelanggan dengan lebih baik. Penerapan superkomputer AI NVIDIA DGX oleh 6Estates dapat membantu organisasi di Asia Tenggara mendorong pertumbuhan melalui pengembangan layanan dan solusi AI yang canggih,” kata Dennis Ang, Direktur Senior, Bisnis Perusahaan untuk Wilayah ASEAN dan ANZ di NVIDIA.
Memberdayakan Bisnis dengan LLM Khusus Domain yang Disesuaikan
6Estates telah mulai mengembangkan LLM khusus domain untuk beberapa pelanggan – satu di domain keuangan, dengan perusahaan komersial menargetkan untuk melatih model ukuran 70B ~ 130B, dan satu lagi di domain medis, dengan lembaga penelitian menargetkan untuk melatih 7B, 13B, dan Model ukuran 65B.
Manfaat LLM khusus domain bermacam-macam. Untuk industri jasa keuangan, yang merupakan pasar utama bagi 6Estates, klaster ini akan dimanfaatkan untuk mendukung pelanggan dengan:
- Mengotomatiskan orientasi pelanggan dan penilaian penipuan/risiko
- Menggali wawasan pelanggan yang lebih mendalam untuk penilaian dan pemantauan kredit
- Mensintesis data pelanggan di berbagai aplikasi internal dan eksternal
- Memperkirakan dan memantau dampak finansial dari pelanggan
- Menghasilkan rekomendasi produk yang lebih tepat
- Memberikan dukungan pelanggan otomatis yang lebih tepat dan terinformasi
- Menyederhanakan pelaporan dan analisis untuk tim manajemen
- Memfasilitasi pengalaman karyawan yang lebih bermanfaat melalui pengurangan pekerjaan manual
6Estates siap membekali perusahaan dengan kemampuan AI on-premise yang disesuaikan, serta Pemrosesan Dokumen Cerdas yang didukung AI, dan otomatisasi alur kerja menyeluruh.
Hubungi tim sekarang untuk mempelajari cara menggunakan LLM khusus domain untuk mendorong pertumbuhan dan efisiensi serta memperkuat operasi bisnis.
Cek Berita dan Artikel yang lain di
Google News
