Neuchips Bermitra dengan Vecow dan GSH guna Mempercepat Pengolahan Data Milik Sendiri dengan AI Generatif Luring

Indonesia - Bahasa

• USA - Français
• USA - English
• APAC - English
• USA - English
• USA - español
• Japan - Japanese
• USA - Deutsch

"Kolaborasi kami dengan Vecow dan GSH mencerminkan masa depan implementasi AI di sektor perindustrian, " ujar Ken Lau, CEO, Neuchips. "Di Embedded World 2025, pengunjung stan pameran Vecow dapat mengeksplorasi fitur unik kartu akselerator Viper AI—termasuk 12 miliar dukungan model parameter AI dengan konsumsi listrik yang hanya mencapai 45 W—melengkapi Sistem Edge AI Computing Vecow untuk sektor perindustrian, serta solusi ShareGuru SLM dari GSH. Kombinasi canggih ini memadukan pemrosesan AI yang aman dan efisien atas data milik sendiri yang memenuhi kebutuhan sektor perindustrian modern. Kami bangga bermitra dengan Vecow untuk menghadirkan inovasi AI generatif dalam segmen bisnis aplikasi untuk perusahaan."

"Sejalan ekspansi aplikasi AI generatif yang berada di lokasi milik sendiri (on-premise), kebutuhan model AI bahasa besar (LLM) multiformat juga melonjak," kata Joseph Huang, Executive Vice President, Vecow. "Sebagai penyedia layanan solusi komputasi AI pada perangkat lokal (edge AI), Vecow bermitra dengan Neuchips untuk mengembangkan solusi LLM berbasiskan RAG canggih. Maka, pengguna dapat mengakses data terkini tanpa model AI yang telah dilatih. Hasil yang diperoleh pengguna menjadi lebih relevan dan bermutu tinggi. Klien membutuhkan sarana kerja AI yang hemat biaya, berbentuk ringkas, dan hemat energi, serta melampaui kinerja solusi GPU biasa yang berbasiskan komputasi awan."

Menyatukan kekuatan untuk solusi pengolahan data AI

Setelah bank data kian kompleks dan keahlian SQL masih langka, pelaku bisnis harus memakan waktu lama untuk membuat analisis penting atas data. Namun, model AI daring tidak dapat digunakan akibat kurangnya proteksi atas informasi milik sendiri.

Demi mengatasi kendala yang dialami perusahaan di berbagai industri tersebut, solusi inovatif memanfaatkan Vecow ECX-3100 RAG Edge AI Inference Workstation, platform komputasi ALLM yang didukung RAG (Retrieval-Augmented Generation). Platform ini beroperasi dengan solusi GSH ShareGuru QA 2.0, didukung Platform ShareGuru SLM, serta memakai satu kartu Neuchips LLM—Kartu Gen AI seri Viper.

Jika dikombinasikan, solusi ini dapat memakai bahasa manusia untuk mengajukan permintaan SQL sehingga lebih mudah diakses dan efisien sekaligus memangkas biaya keahlian SQL. Di sisi lain, solusi ini menawarkan:

• Privasi dan keamanan data maksimum: kartu luring Neuchips beroperasi dengan solusi dan platform ShareGuru pada perangkat lokal.
• Akurasi tinggi: Melalui validasi permintaan yang didukung AI
• Efisiensi energi yang baik: Seri Viper dari Neuchips memiliki efisiensi listrik 45 W dengan 12 miliar model parameter AI

Kartu akselerator AI seri Viper Neuchips

Diluncurkan di COMPUTEX 2024, seri Viper melepaskan lebih dari 990% sumber daya komputasi yang dibutuhkan AI generatif dari CPU agar seluruh potensi LLM terealisasi. Seri Viper juga menawarkan keunggulan berikut:

• Kapasitas memori ekstra 32 GB
• Dukungan Model Bahasa Terstruktur BF16 sebagai Fitur Bawaan
• Cip akselerator Gen AI Raptor dari Neuchips, dilansir di CES 2024

Menyambut 2026, Neuchips ingin berfokus pada ASIC multiformat yang hemat energi agar kinerja kian meningkat.

Tentang Neuchips

Neuchips memimpin segmen pasar solusi AI ASIC, serta menjadi pelopor industri yang mengembangkan perangkat keras yang dirancang khusus untuk DLRM dan LLM. Didukung tim pakar, komitmen pada inovasi, serta jangkauan kuat di kalangan asosiasi industri, Neuchips terus membangun masa depan perangkat keras AI, serta mengusung era efisiensi dan kinerja yang baru.

Informasi lebih lanjut: http://www.neuchips.ai/

SOURCE Neuchips Inc.