Sementara itu, pusat data berbasis cloud dinilai dapat memanfaatkan sumber daya memori secara lebih optimal. Pernyataan tersebut disampaikan Altman dalam wawancara bersama kanal YouTube Cheeky Pint.
Mengutip Tom's Hardware, dalam percakapan yang membahas kecerdasan buatan (AI) tersebut Altman menyoroti keterbatasan pasokan DRAM global dan meningkatnya kebutuhan memori untuk menjalankan model AI.
Altman secara khusus membahas tren local inference, yaitu proses menjalankan model AI langsung di perangkat milik pengguna, termasuk komputer desktop dan laptop. Ia menilai, dalam situasi pasokan memori terbatas, pemanfaatan DRAM melalui layanan cloud dapat memberikan tingkat penggunaan lebih tinggi.
Pandangan tersebut kembali memunculkan perdebatan mengenai alokasi sumber daya komputasi antara perangkat konsumen dan infrastruktur AI berskala besar.
Altman Nilai RAM Lebih Efisien di Pusat Data
Dalam wawancara tersebut, Altman membandingkan penggunaan memori pada komputer pribadi dengan pemanfaatannya di pusat data. Ia berpendapat bahwa RAM yang terpasang pada perangkat pengguna sering kali tidak digunakan secara maksimal sepanjang hari.Altman menyebut memori pada komputer pribadi mungkin hanya digunakan sekitar 5% dari waktu yang tersedia. Sebaliknya, pusat data dapat mengoptimalkan penggunaan sumber daya melalui layanan cloud yang melayani banyak pengguna dan permintaan komputasi.
Menurutnya, pendekatan tersebut lebih masuk akal saat industri menghadapi keterbatasan pasokan DRAM. Alih-alih membiarkan kapasitas memori tersebar di jutaan perangkat pribadi, Altman menilai sumber daya tersebut sebaiknya terkonsentrasi pada infrastruktur yang dapat menggunakannya secara lebih intensif.
Pembahasan Altman berfokus pada penggunaan komputer pribadi untuk menjalankan model AI terbuka secara lokal. Model tersebut memungkinkan pengguna melakukan pemrosesan AI tanpa harus selalu mengandalkan layanan cloud dari penyedia eksternal.
Namun, angka penggunaan 5% yang disampaikan Altman merupakan bagian dari argumennya dalam wawancara, dan belum dibuktikan melalui pengukuran independen bahwa seluruh komputer pribadi menggunakan RAM hanya sebesar angka tersebut.
Selain itu, RAM pada PC tidak hanya digunakan untuk menjalankan AI. Memori juga mendukung berbagai aktivitas sehari-hari, seperti menjalankan aplikasi produktivitas, menjelajahi internet, dan bermain game.
Perdebatan Local AI dan Layanan Cloud
Pernyataan Altman turut menyoroti perbedaan pendekatan antara AI lokal dan AI berbasis cloud. Pada skema local inference, pengguna menjalankan model AI menggunakan sumber daya perangkat. Selain itu, kapasitas RAM menjadi salah satu faktor penting untuk mendukung proses tersebut.Sebaliknya, layanan cloud memindahkan proses komputasi ke server di pusat data. Pengguna dapat mengakses kemampuan AI melalui koneksi internet tanpa harus menyediakan seluruh kebutuhan perangkat keras untuk menjalankan model secara lokal.
Dari perspektif Altman, pemusatan sumber daya komputasi di pusat data memungkinkan penggunaan memori secara lebih optimal. Namun, pendekatan ini juga berarti pengguna semakin bergantung pada infrastruktur dan layanan milik penyedia AI.
OpenAI memiliki sejumlah model terbuka, tetapi bisnis utamanya mengandalkan model tertutup yang dijalankan melalui pusat data. Karena itu, pandangan Altman mengenai alokasi DRAM juga dinilai sejalan dengan kepentingan bisnis perusahaan.
Kendati demikian, masih ada kemungkinan bahwa perkembangan AI lokal dapat mengurangi ketergantungan pengguna terhadap layanan berlangganan. Jika perangkat pribadi memiliki kapasitas memori dan kemampuan pemrosesan memadai, pengguna berpotensi menjalankan model AI secara mandiri.
Situasi tersebut menjadi salah satu alasan mengapa perdebatan mengenai distribusi memori tidak hanya berkaitan dengan efisiensi teknis. Pilihan antara komputasi lokal dan cloud juga menyangkut kendali pengguna atas perangkat, software, serta layanan digital yang mereka gunakan.
Kritik terhadap Ketergantungan pada Infrastruktur Cloud
Pandangan Altman mendapat perhatian karena muncul saat industri AI kian bergantung pada infrastruktur pusat data. Argumen tersebut mengasumsikan pembangunan pusat data akan terus berlangsung dan memori yang digunakan di pusat data dapat dimanfaatkan secara lebih intensif dibandingkan RAM pada komputer pribadi.Namun, pendekatan tersebut tidak serta-merta menjawab seluruh persoalan alokasi sumber daya. Penggunaan RAM pada perangkat konsumen tetap memiliki fungsi penting, termasuk untuk aplikasi produktivitas, aktivitas internet, game, dan pemrosesan AI lokal.
Sementara itu, sebagian pengguna menyampaikan kekhawatiran mereka mengenai masa depan kepemilikan perangkat dan software. Jika semakin banyak kebutuhan komputasi dipindahkan ke cloud, pengguna berpotensi lebih bergantung pada layanan yang disediakan perusahaan teknologi.
Perdebatan ini memperlihatkan dua sudut pandang dalam pengembangan AI. Di satu sisi, perusahaan penyedia layanan cloud membutuhkan kapasitas memori besar untuk mendukung operasional model AI.
Di sisi lain, pengguna komputer pribadi tetap membutuhkan RAM untuk menjalankan berbagai aplikasi dan memiliki kebebasan memanfaatkan hardware milik mereka. Pernyataan Altman pun belum memberikan jawaban final mengenai pendekatan yang paling ideal untuk seluruh kebutuhan komputasi.
Efisiensi penggunaan memori di pusat data perlu dilihat bersama kebutuhan pengguna, jenis pekerjaan, serta tingkat kendali yang ingin mereka miliki atas perangkat. Komentar Altman mengenai DRAM tersebut menjadi salah satu bagian yang menarik perhatian karena menyentuh persaingan kebutuhan memori antara perangkat konsumen dan infrastruktur AI.
