"Layanan finansial akan menjadi salah satu industri yang menunjukan kebutuhan untuk memanfaatkan AI tanpa mengekspos infrastruktur mereka ke jaringan publik,” ujar Chief Technology Officer Digital Realty Chris Sharp.
Menurut Sharp, perusahaan di sektor jasa keuangan juga semakin memperhatikan aspek kedaulatan data dan kepemilikan infrastruktur komputasi. Mereka membutuhkan sistem yang memungkinkan pengolahan data dan pemanfaatan AI dilakukan melalui konektivitas privat, tanpa harus mengalirkan informasi melalui internet publik.
Kebutuhan tersebut turut memperlihatkan perubahan pendekatan perusahaan terhadap implementasi AI. Selain memanfaatkan layanan dari penyedia eksternal, sejumlah organisasi mulai mempertimbangkan pembangunan infrastruktur komputasi yang dapat mereka kendalikan secara langsung.
Managing Director and Head of Asia Pacific Digital Realty Serene Nah menjelaskan bahwa perusahaan teknologi besar di Asia mulai mengeksplorasi pengembangan lingkungan AI privat yang memungkinkan proses pelatihan model atau training dan pemrosesan AI atau inference dilakukan dalam satu infrastruktur.
Digital Realty melihat sejumlah pelanggan perusahaan membutuhkan kapasitas daya sekitar 1 hingga 3 megawatt untuk mendukung pengembangan lingkungan AI privat tersebut. Kebutuhan ini juga disertai permintaan konektivitas ke berbagai layanan multicloud dan penyedia AI.

Kedaulatan Data Jadi Pertimbangan Utama
Nah menjelaskan bahwa kedaulatan data menjadi salah satu faktor penting dalam keputusan perusahaan mengembangkan infrastruktur AI. Perusahaan perlu menentukan informasi yang harus tetap berada di wilayah tertentu dan data yang dapat digunakan untuk mendukung operasional lintas negara.Kebutuhan tersebut semakin relevan bagi perusahaan multinasional yang memiliki kantor pusat regional di Singapura, tetapi menjalankan kegiatan bisnis di berbagai negara Asia Tenggara. Menurut Nah, perusahaan tersebut perlu memahami sistem AI dan infrastruktur digital mereka dapat terhubung dengan operasional di Indonesia, Malaysia, Thailand, serta negara lainnya.
Dalam konteks ini, pengujian konektivitas menjadi bagian penting sebelum perusahaan menerapkan arsitektur teknologi secara menyeluruh. Pengujian mencakup latensi, hubungan antarbeban kerja, serta konektivitas menuju berbagai lingkungan komputasi awan.
Selain sektor jasa keuangan, Digital Realty juga melihat peningkatan ketertarikan dari industri farmasi, kesehatan, layanan digital, dan perusahaan teknologi. Sharp menyebut industri kesehatan mulai menunjukkan peningkatan kebutuhan terhadap infrastruktur AI.
Sementara itu, sektor farmasi dan jasa keuangan menjadi dua kelompok industri yang menonjol dalam ketertarikan terhadap pengujian teknologi tersebut. Nah menambahkan bahwa sejumlah perusahaan teknologi dari Jepang, Korea Selatan, dan Singapura telah berada pada tahap pengujian teknologi AI lebih maju.
Perusahaan tersebut, lanjut Nah, tidak hanya mengevaluasi kemampuan pemrosesan AI, tetapi juga mempertimbangkan infrastruktur mereka dapat terhubung dengan berbagai penyedia layanan cloud, jaringan telekomunikasi, dan pengembang model AI.
Digital Realty Siapkan Pengujian Infrastruktur AI
Untuk mendukung kebutuhan tersebut, Digital Realty mengembangkan lingkungan pengujian teknologi yang memungkinkan pelanggan dan mitra mengevaluasi berbagai komponen infrastruktur AI sebelum menerapkannya dalam operasional perusahaan.Fasilitas ini dirancang untuk mempertemukan berbagai teknologi dari sejumlah vendor, termasuk perangkat komputasi, sistem distribusi daya, teknologi pendinginan, serta solusi konektivitas. Sharp menjelaskan bahwa perusahaan dapat melakukan pengujian menggunakan data dan skenario operasional yang menyerupai kondisi sebenarnya.
Pendekatan ini bertujuan membantu pelanggan memahami hasil yang dapat dicapai sebelum mengalokasikan investasi untuk implementasi teknologi. Namun, lingkungan pengujian tersebut tidak hanya ditujukan bagi perusahaan besar.
Digital Realty juga membuka kesempatan bagi perusahaan berskala kecil untuk mengevaluasi teknologi sesuai kebutuhan mereka. Sharp mencontohkan perusahaan teknologi dengan hanya dua orang yang mengembangkan kemampuan penerjemahan berbasis suara.
Kendati memiliki jumlah karyawan terbatas, perusahaan tersebut membutuhkan kapasitas komputasi dalam skala megawatt di sejumlah pasar. Contoh tersebut menunjukkan bahwa kebutuhan infrastruktur AI tidak selalu ditentukan oleh ukuran organisasi, melainkan juga kerumitan teknologi dan besarnya beban kerja yang dijalankan.
Digital Realty turut menyoroti pentingnya fleksibilitas dalam pemilihan hardware dan software. Perusahaan disebut perlu menghindari ketergantungan pada satu jenis chip atau penyedia teknologi agar dapat menyesuaikan infrastruktur dengan perkembangan AI.
Melalui lingkungan pengujian tersebut, pelanggan dapat mengevaluasi berbagai kombinasi hardware, model bahasa besar atau large language model (LLM), dan software sebelum menentukan arsitektur yang sesuai.
Digital Realty juga menyediakan ServiceFabric, lapisan teknologi konektivitas yang menghubungkan lebih dari 800 data center. Layanan ini mendukung kebutuhan perusahaan untuk mengintegrasikan berbagai lingkungan cloud dan infrastruktur digital.
Nah menambahkan bahwa fasilitas pengujian tersebut dapat dimanfaatkan perusahaan dengan kantor pusat Asia Pasifik di Singapura untuk mengevaluasi arsitektur teknologi yang akan diterapkan di berbagai negara, termasuk Indonesia.
Selain kebutuhan AI generatif, Digital Realty melihat perusahaan mulai mengeksplorasi implementasi agentic AI, yaitu sistem AI yang mampu menjalankan serangkaian proses atau tugas secara lebih mandiri.
Pengujian menjadi tahap penting untuk memastikan kemampuan sistem tersebut sebelum diterapkan dalam lingkungan produksi. Dengan demikian, perkembangan ini memperlihatkan bahwa adopsi AI di Asia Pasifik tidak hanya berkaitan dengan peningkatan kapasitas komputasi.
Kebutuhan terhadap kedaulatan data, konektivitas privat, fleksibilitas teknologi, dan pengujian infrastruktur juga menjadi pertimbangan perusahaan dalam menentukan strategi implementasi AI.