Penting untuk mewujudkan potensinya adalah konsep yang oleh Hamilton dan CEO Jensen Huang sebut sebagai pabrik AI. “Ini seperti listrik yang memiliki masukan – dalam hal ini energi dan data – dan seperti listrik, tidak banyak orang yang mengetahui cara kerjanya,” kata Hamilton.
"Kami hanya tahu bahwa kami dapat mengajukan pertanyaan dan jawabannya secara misterius."
Jadi sekarang, perusahaan ini memiliki misi untuk memanfaatkan manajemen, pengangkutan, dan pemrosesan data di belakang AI dan memperbaikinya seiring kami mengembangkannya.
Dunia Baru
Alasan kita harus memperbaiki pabrik AI adalah karena kita sudah memasuki masa revolusi. Terlalu banyak perusahaan dan pengguna yang melihat manfaat dan keamanan, kebutuhan energi dan karyawan semuanya akan terkena dampaknya.
Artinya, pendidikan tentang miskonsepsi sama pentingnya dengan inovasi. Pasti akan ada pelatihan ulang keterampilan dan sejumlah pekerjaan akan hilang, namun akan jauh lebih banyak pekerjaan yang mengalami transformasi.
Hamilton mengutip contoh seorang agen properti yang mungkin bisa menulis listingan rumah dalam dua atau tiga jam – melakukannya dengan benar adalah kunci untuk menarik pembeli. Beberapa orang di lapangan meminta AI untuk menulis daftar, tapi kita semua membaca konten buatan AI yang terdengar 'buatan'.
Rahasia yang dipelajari industri ini, kata Hamilton, adalah memberikan kata kunci kepada chatbot seperti 'tiga kamar tidur', 'di tepi pantai', dll. Biarkan AI menulis drafnya dan kemudian menghabiskan 20 menit untuk mengedit gaya dan nada, bukannya tiga jam menulis dari nol.
Selain tak ada pekerjaan siapa pun yang terhapuskan, kita juga bisa berbuat lebih banyak dengan waktu yang kita punya berkat keterlibatan AI.
Ia bahkan memiliki aplikasi khusus wilayah. Asisten AI di dalam mobil dapat memantau pengemudi untuk mengetahui apakah mereka tertidur, berpindah jalur, dan lain-lain. Dan di Australia, kami secara unik menyiapkan teknologi seperti asisten tersebut untuk meningkatkan keselamatan. “Ini sangat berguna bagi pelanggan transportasi kami dan pengguna transportasi di Australia mengingat jarak antara pusat populasi dan rute angkutan truk,” katanya.
Kesalahpahaman lainnya adalah tentang hambatan dalam mengembangkan AI khusus domain yang sesuai dengan industri Anda atau bahkan organisasi Anda. “Perusahaan mengatakan kepada kami bahwa mereka tidak memiliki 10.000 GPU – atau uang untuk menyewanya – untuk membangun model bahasa besar mereka sendiri,” kata Hamilton.
Namun dia mengacu pada ekosistem LLM open source yang canggih. Dengan perpaduan yang tepat antara keahlian teknis dan pengetahuan domain, dia melihat pengguna membuat atau menyempurnakannya agar sama bagusnya atau lebih baik dari model tujuan umum. "ChatGPT sangat bagus karena memiliki begitu banyak informasi – ini adalah cara terbaik untuk menguasai segala hal."
Contoh yang baik adalah sistem AI Bloomberg (Bloomberg GPT), yang berfokus pada data hanya dari domain keuangan dan mampu menjawab pertanyaan jauh lebih baik daripada chatbot pada umumnya.
Paradigma Baru
Namun, sama seperti AI yang membuat kita semakin memikirkan cloud, hal ini juga akan memperburuk dua tantangan paling mendesak yang ada pada komputasi modern; keamanan dan energi.
Seperti yang dikatakan Hamilton, tidak semua orang bisa menggunakan ChatGPT karena masalah privasi data. Ini telah dilatih pada data internet yang tersedia untuk umum, namun jika Anda mengontrol informasi sensitif, informasi tersebut tidak selalu dapat dihosting di cloud yang terhubung.
Sebagai produk Microsoft, ChatGPT juga berjalan di Azure, jadi jika data Anda dihosting dengan Google atau AWS, data tersebut mungkin tidak dapat dipindahkan atau dihubungkan. “Kami melihat adanya peningkatan kebutuhan bagi perusahaan untuk membangun LLMS mereka sendiri yang akan berjalan di private cloud atau lingkungan premis.”
Dalam hal energi, peningkatan jejak karbon pada pusat data di era AI sudah terdokumentasi dengan baik. Namun selain meningkatkan penggunaan energi di pusat-pusat teknologi data populasi besar, strategi yang kurang dikenal adalah dengan menggunakan kelebihan energi untuk memberi daya pada lingkungan data regional yang lebih khusus guna melayani kebutuhan lokal yang lebih kecil.
“Kemampuan untuk menempatkan Pabrik AI bagi pelanggan di mana pun di dunia adalah model bisnis baru yang telah kami lihat. Menggunakan cloud publik adalah cara yang baik untuk mulai mempelajari teknologi dengan data non-kepemilikan, namun operasi yang lebih kecil menggunakan sumber daya terbuka model sumber dapat menurunkan biaya, kebutuhan daya, dan fleksibilitas."
Namun di luar lokalitas, kita perlu menyederhanakan pemrosesan AI secara umum, dan salah satu jawabannya adalah akselerasi komputasi, yang ditawarkan NVIDIA melalui platform AI khusus, DGX. “Membuat pemrosesan data lebih hemat energi adalah kuncinya, karena 80-90% energi yang digunakan untuk pelatihan LLM hanyalah pemrosesan data. Peralihan dari CPU ke GPU dan akselerator lainnya merupakan langkah penting menuju efisiensi energi.”
Cek Berita dan Artikel yang lain di
Google News