Ini juga mencakup chiplet Optical Compute Interconnect (OCI) terintegrasi penuh (OCI) paling canggih dan pertama di industri untuk pemrosesan data AI berkecepatan tinggi. Intel juga meluncurkan detail baru tentang Xeon 6 SoC (nama kode Granite Rapids-D), yang dijadwalkan untuk meluncur pada paruh pertama tahun 2025.
"Di seluruh penggunaan AI konsumen dan perusahaan, Intel terus menghadirkan platform, sistem, dan teknologi yang diperlukan untuk mendefinisikan ulang apapun. Seiring dengan meningkatnya beban kerja AI, pengalaman industri yang luas memungkinkan kami memahami apa yang dibutuhkan pelanggan kami untuk mendorong inovasi, kreativitas, dan hasil bisnis yang ideal," Pere Monclus, CTO, Network and Edge Group di Intel.
"Meskipun silikon yang lebih berperforma dan peningkatan bandwidth platform sangat penting, Intel juga tahu bahwa setiap beban kerja memiliki tantangan unik: Sistem yang dirancang untuk pusat data tidak dapat lagi digunakan kembali begitu saja untuk edge. Dengan keahlian yang telah terbukti dalam arsitektur sistem di seluruh kontinum komputasi, Intel berada di posisi yang tepat untuk mendukung inovasi AI generasi berikutnya."
Pada Hot Chips 2024, Intel mempresentasikan 4 topik teknis: Intel Xeon 6 SoC, prosesor Lunar Lake, akselerator Gaudi 3 AI, dan chiplet OCI.
Praveen Mosur, Intel Fellow and Network and Edge Silicon Architect, meluncurkan detail baru tentang desain system-on-chip (SoC) Intel Xeon 6 dan bagaimana ia dapat mengatasi tantangan penggunaan khusus edge, seperti koneksi jaringan yang tidak dapat diandalkan serta ruang dan daya yang terbatas. Berdasarkan pengetahuan yang diperoleh dari lebih dari 90.0001 penyebaran edge di seluruh dunia, SoC akan menjadi prosesor yang paling dioptimalkan untuk edge hingga saat ini.
Dengan kemampuan untuk menskalakan dari perangkat edge ke node edge menggunakan arsitektur sistem tunggal dan akselerasi AI terintegrasi, perusahaan dapat lebih mudah, efisien, dan rahasia mengelola alur kerja AI penuh mulai dari penyerapan data hingga inferensi – membantu meningkatkan pengambilan keputusan, meningkatkan otomatisasi, dan memberikan nilai kepada pelanggan mereka.
Intel Xeon 6 SoC menggabungkan chiplet komputasi dari prosesor Intel Xeon 6 dengan chiplet I/O yang dioptimalkan edge yang dibangun di atas teknologi proses Intel 4. Hal ini memungkinkan SoC untuk memberikan peningkatan yang signifikan dalam kinerja, efisiensi daya, dan kepadatan transistor dibandingkan dengan teknologi sebelumnya.
Intel Xeon 6 SoC juga menyertakan fitur yang dirancang untuk meningkatkan performa dan efisiensi beban kerja edge dan jaringan, termasuk akselerasi media baru untuk meningkatkan transkode dan analitik video untuk OTT, VOD, dan media siaran langsung; Intel Advanced Vector Extensions dan Advanced Matrix Extensions untuk meningkatkan kinerja inferensi; QuickAssist untuk performa jaringan dan penyimpanan yang lebih efisien; vRAN Boost untuk mengurangi konsumsi daya untuk RAN virtual; dan dukungan untuk Tiber Edge Platform, yang memungkinkan pengguna untuk membangun, menerapkan, menjalankan, mengelola, dan menskalakan solusi edge dan AI pada perangkat keras standar dengan kesederhanaan seperti cloud.
Lunar Lake: PC AI generasi berikutnya
Arik Gihon, arsitek SoC CPU klien utama, membahas prosesor klien Lunar Lake dan bagaimana prosesor tersebut dirancang untuk menetapkan standar baru untuk efisiensi daya x86 sambil memberikan kinerja core, grafis, dan AI klien terkemuka. Performance-core (P-core) dan Efficient-core (E-core) baru menghadirkan performa dengan daya system-on-chip hingga 40% lebih rendah dibandingkan dengan generasi sebelumnya.
Unit pemrosesan neural atau NPU baru hingga 4x lebih cepat, memungkinkan peningkatan yang sesuai dalam AI generatif (GenAI) dibandingkan generasi sebelumnya. Selain itu, X barudan2 inti unit pemrosesan grafis meningkatkan performa gaming dan grafis sebesar 1,5x lipat dibandingkan generasi sebelumnya.
Detail tambahan tentang Lunar Lake akan dibagikan selama acara peluncuran Intel Core Ultra pada 3 September.
Akselerator AI Intel Gaudi 3: untuk pelatihan dan inferensi GenAI
Roman Kaplan, kepala arsitek akselerator AI, membahas pelatihan dan penerapan model AI generatif yang membutuhkan daya komputasi yang luas. Hal ini menyebabkan tantangan biaya dan daya yang signifikan seiring dengan skala sistem – membentang dari node tunggal hingga cluster multi-ribu node yang luas.
Akselerator AI Intel Gaudi 3 mengatasi masalah ini dengan arsitektur yang dioptimalkan yang memengaruhi arsitektur komputasi, memori, dan jaringan sambil menggunakan strategi seperti mesin perkalian matriks yang efisien, integrasi cache dua tingkat, dan jaringan RoCE (RDMA over Converged Ethernet) yang ekstensif.
Hal ini memungkinkan akselerator AI Gaudi 3 untuk mencapai kinerja dan efisiensi daya yang signifikan yang memungkinkan pusat data AI beroperasi lebih irit biaya dan berkelanjutan, mengatasi masalah skalabilitas saat menerapkan beban kerja GenAI.
Cek Berita dan Artikel yang lain di
Google News
