Huawei Luncurkan Arsitektur Komputasi UnifiedBus Terbaru untuk SuperPoD dan Klaster

Pada arsitektur komputasi konvensional, efisiensi pemanfaatan sumber daya cenderung menurun seiring dengan skala klaster yang bertambah besar. Pada klaster dengan 100.000 NPU, misalnya, model AI hanya memanfaatkan sekitar 20% kapasitas komputasi. Sebagian besar kapasitas lainnya justru menganggur saat sistem melakukan komunikasi data. Sementara itu, model dengan 10 triliun parameter membutuhkan data perantara dalam jumlah masif selama proses pelatihan, jauh melampaui kapasitas memori satu akselerator pada arsitektur biasa. Akibatnya, interkoneksi dan komunikasi antarkomponen dalam klaster kini menjadi salah satu hambatan utama dalam kinerja sistem komputasi.

Menurut Yang, Huawei menjawab tantangan tersebut dengan arsitektur komputasi baru berbasis teknologi interkoneksi UnifiedBus agar klaster dan SuperPoD dapat bekerja secara terintegrasi. Arsitektur ini memenuhi lonjakan kebutuhan komputasi sejalan dengan semakin banyaknya aplikasi agen AI yang hadir di pasar. Sistem komputasi berbasis UnifiedBus memiliki empat keunggulan utama:

• Protokol dan semantik memori terpadu: UnifiedBus memadukan lebih dari 10 protokol interkoneksi ke dalam satu protokol. Pendekatan ini meningkatkan bandwidth interkoneksi dari level 100 GB/s menjadi level TB/s, serta memangkas latensi round-trip time (RTT) dari 7 mikrodetik menjadi 2 mikrodetik. UnifiedBus juga mendukung alamat memori global secara terpadu di dalam SuperPoD.
• Kolaborasi komputasi heterogen: UnifiedBus menghubungkan CPU, NPU, memori, dan solid-state drive (SSD) secara langsung sehingga masing-masing komponen dapat saling mengakses secara peer-to-peer. Arsitektur ini juga mendukung kombinasi CPU dan NPU secara fleksibel. Selain itu, akselerasi perangkat keras berjenjang untuk Transformer mendukung pemisahan proses Attention dan FFN atau Attention-FFN disaggregation (AFD).
• Penyimpanan berjenjang dengan pooling global: UnifiedBus memanfaatkan pooling sumber daya berbasis media penyimpanan hibrida untuk mendukung caching activation. Memori Double Data Rate (DDR) dapat digunakan sebagai memori alternatif bagi NPU sehingga menekan latensi pada layanan pencarian, rekomendasi, dan periklanan. Teknologi ini juga menggandakan kinerja vector retrieval untuk 100 miliar item data dengan ribuan dimensi. Pada saat yang sama, kebutuhan kapasitas HBM per NPU untuk melatih model dengan 10 triliun parameter dapat dikurangi sehingga meningkatkan pemanfaatan model FLOPs pada klaster (MFU).
• Interkoneksi optoelektronik dan jaringan fleksibel: UnifiedBus berfungsi sebagai "jalan tol data" global dengan bandwidth sangat tinggi dan latensi sangat rendah sehingga kapasitas komputasi dapat ditambah secara fleksibel.

Yang kemudian memperkenalkan jajaran produk interkoneksi UnifiedBus terbaru dari Huawei yang mencakup koneksi di dalam kabinet, antarkabinet, hingga antarklaster. Portofolio ini memfasilitasi penambahan kapasitas komputasi secara elastis, dari satu kabinet hingga klaster yang menampung satu juta NPU.

• Di dalam kabinet, UnifiedBus LinkBlade menggunakan desain tanpa kabel untuk menghilangkan circuit losses. Teknologi ini mengurangi kebutuhan kabel tembaga dalam SuperPoD berkapasitas 4.096 NPU sekitar 196 kilometer.
• Antarkabinet, UnifiedBus LinkDevice memiliki 176 porta dengan bandwidth 1,6 Tbit/s per porta dan menghadirkan interkoneksi optik penuh hingga 280 Tbit/s. Perangkat ini diklaim sebagai perangkat interkoneksi berbasis protokol bus berkecepatan tinggi dengan bandwidth dan jumlah porta terbanyak di industri, dengan latensi RTT serendah 2 mikrodetik.
• Antarklaster, switch UnifiedBus UBG menawarkan kapasitas fan-out radix hingga 1.024. Kapasitas tersebut mendukung SuperCluster dengan satu juta NPU sekaligus membuka jalan menuju sistem yang mampu menangani model dengan puluhan triliun parameter.

Yang juga memperkenalkan UnifiedBus-powered agentic AI SuperCluster dari Huawei yang terdiri atas TaiShan 950 dan Atlas 960 SuperPoD, OceanStor M900 memory storage, serta switch Xinghe UBG. Klaster tersebut mendukung kolaborasi berbagai jenis komputasi sekaligus pooling sumber daya secara berjenjang.

Tak hanya untuk SuperPoD, Huawei juga menerapkan teknologi UnifiedBus pada perangkat komputasi. Perusahaan mengembangkan seri perangkat baru berbasis UnifiedBus yang mendukung satu hingga delapan NPU, serta modul Kunpeng dan Ascend. Solusi ini membantu usaha kecil dan menengah menjalankan model AI dengan triliunan parameter secara lokal.

Dari sisi ekosistem, Yang mengatakan Ascend berkolaborasi dengan open source framework seperti DeepSeek Harness, OpenCode, dan openJiuwen untuk mengembangkan agent plugins bagi kerangka kerja pengelolaan cerdas, akselerasi inferensi, dan keamanan yang sepenuhnya open source.

Yang mengatakan, "Huawei berkomitmen melakukan inovasi pada level sistem, membangun portofolio produk sebagai fondasi komputasi, serta mendorong partisipasi aktif melalui open source dan sistem terbuka. Kami akan terus bekerja sama dengan pelanggan, mitra, dan pengembang untuk mengembangkan ekosistem ini, serta menghadirkan pilihan baru bagi dunia dalam membangun kapasitas komputasi."

SOURCE Huawei Technologies Co., Ltd