Cathay Financial Holdings Manfaatkan Model Bahasa Kecil Berbasis Sumber Terbuka untuk Memahami Kebutuhan Nasabah

Studi tersebut mengevaluasi sejumlah model open source terkemuka yang dikembangkan oleh Meta, TAIDE, TAME, NVIDIA, dan OpenAI. Hasil awal menunjukkan, dalam kerangka pengujian yang digunakan, SLM yang telah disempurnakan tersebut berpotensi mengurangi ketergantungan terhadap teknik prompt engineering yang kompleks serta modul vector retrieval. Pendekatan ini dapat menyederhanakan arsitektur sistem, serta menekan kompleksitas operasional dan pemeliharaan sistem pada masa mendatang.

Hasil penelitian juga menunjukkan, kombinasi antara rangkaian data sektor keuangan yang dirancang secara cermat dan proses penyempurnaan yang terarah mampu meningkatkan stabilitas model, efisiensi inferensi, serta kendali dalam proses implementasi. Dalam tugas klasifikasi kebutuhan nasabah, SLM yang telah disempurnakan ini menghasilkan kinerja yang mendekati LLM closed-source yang banyak beredar, bahkan hampir menandingi kemampuan model terdepan. Temuan tersebut dapat menjadi referensi praktis bagi perusahaan untuk menyusun strategi pelatihan dan implementasi model AI.

Dari sisi tata kelola data dan privasi, penelitian ini menggunakan pendekatan data sintetis sehingga tidak memanfaatkan informasi nasabah dalam proses pelatihan model. Cathay FHC juga menerapkan berbagai teknik, termasuk pengelompokan fungsi layanan, perancangan rangkaian data untuk kebutuhan tunggal maupun ganda, lokalisasi konteks Taiwan, serta perluasan kata kunci. Pendekatan tersebut memperkuat kemampuan model dalam memahami konteks layanan keuangan lokal, terminologi industri, serta pertanyaan nasabah yang bersifat ambigu.

Cathay FHC menilai teknologi tersebut dapat diterapkan pada berbagai layanan masa depan, seperti pengecekan saldo kredit pemilikan rumah (KPR), bantuan pembayaran kartu kredit, hingga navigasi layanan cabang. Pengembangan ini menjadi fondasi bagi layanan pencarian cerdas, pengalihan layanan secara otomatis, serta pengalaman interaksi nasabah generasi berikutnya.

Dari sisi arsitektur teknologi, Cathay FHC mengintegrasikan berbagai perangkat AI NVIDIA, termasuk NVIDIA NeMo Customizer, NVIDIA NeMo Curator, dan NVIDIA TensorRT-LLM, serta memanfaatkan sumber daya komputasi berbasis arsitektur NVIDIA Hopper. Infrastruktur tersebut mendukung proses pembuatan data, penyesuaian model, optimalisasi inferensi, hingga evaluasi eksperimen. Dengan ekosistem AI NVIDIA, Cathay FHC terus memperkuat kapabilitasnya dalam pengembangan model khusus sektor keuangan, tata kelola data, dan validasi aplikasi.

Dalam beberapa tahun terakhir, Cathay FHC secara konsisten memperluas inovasi AI di berbagai skenario layanan keuangan. Cathay FHC membangun fondasi teknologi yang dapat dikembangkan untuk mendukung optimalisasi proses internal, peningkatan layanan nasabah, pemahaman pengetahuan keuangan, hingga tata kelola model AI. Di tengah regulasi yang semakin ketat, tuntutan tata kelola data, serta ekspektasi nasabah yang cepat berubah, Cathay FHC menegaskan komitmennya untuk terus mengembangkan riset AI yang aman, tangguh, dan sesuai dengan ketentuan yang berlaku.

Ke depan, Cathay FHC akan terus mengeksplorasi teknologi klasifikasi berbasis konteks panjang, pemahaman dokumen keuangan tingkat lanjut, serta penerapan AI lintas-skenario. Dengan mengembangkan metode pelatihan dan implementasi model yang dirancang khusus untuk sektor keuangan, Cathay FHC ingin mempercepat inovasi dan menghadirkan layanan keuangan yang lebih cerdas, efisien, serta berorientasi pada kebutuhan nasabah.

SOURCE Cathay Financial Holdings