打造企業級的金融 AI 服務鏈: Python 串起 ML、XAI 與 LLM 的實戰經驗

游騰林

游騰林

Day 1 • Sat, Oct 17
14:00 - 14:30
Location
R2
Language
Mandarin
Category • Level
FinTech • Medium

金融業在應用機器學習模型時常見的瓶頸是第一線的金融產品銷售人員由於無法理解黑盒子的模型和缺乏信任感,而將模型產出束之高閣。為了讓模型能被一線人員所理解並進而採用,我們透過 Python 串接機器學習模型(ML),解釋型AI(XAI) 與 大型語言模型(LLM),將複雜的數據包裝為可開箱即用的商品介紹,協助一線人員提升經營的效率與成果。

除了分享技術細節外,也將一併說明在生產環境中工程實作的考量與取捨,包含 (1)如何加速 ML模型的開發效率同時降低營運成本 (2) XIA 在拆解個別樣本預測結果時的理想與現實 (3)批次與即時服務的優缺點。

期望透過這次的分享讓聽眾能帶走一套在金融限制下,兼顧工程成本、架構權衡與業務可解釋性的 Python 資料科學實戰乾貨。

Description

金融產品銷售人員的挑戰

介紹證券業營業員忙碌的一天,包含

  1. 盤前要快速消化國際市場資訊並規劃客戶聯繫順序,確保最需要即時提醒的客戶能第一時間獲得服務。
  2. 盤中則同時處理下單、回覆問題、追蹤市場波動,必須即時調整策略。
  3. 盤後要檢討績效、整理客戶資產盈虧,並規劃隔日溝通。這些環節讓營業員承受龐大資訊處理與客戶經營壓力。

串起金融業客戶經營的 AI 服務鏈

為了協助營業員,可以設計一條 金融 AI 服務鏈,結合 ML、XAI 與 LLM 將複雜的數據包裝為可開箱即用的商品介紹,協助一線人員提升經營的效率與成果

  1. ML 模型:預測客戶行為與偏好。
  2. XAI:提供模型判斷的解釋,讓營業員理解背後原因。
  3. LLM:將解釋轉化為可直接使用的話術或溝通策略。

挑戰在於如何確保透明度、避免話術過於制式化,以及持續優化準確度。透過分層設計與情境化呈現,能讓技術與業務需求自然連結。

企業級營運議題

要讓 AI 服務鏈長期落地,企業需面對的議題:

  1. ML 資料庫建設:集中化管理,加速模型開發並降低重複成本。
  2. 你的 Parallel 真的充分加速讀/寫資料的效率了嗎?
  3. 盤點數據模型的資料血緣
  4. 模型漂移偵測:市場與客戶行為會改變,必須建立監控機制,及早調整或再訓練。
  5. LLM 架構設計:在批次服務(如盤後報告)與即時服務(如盤中話術生成)間取得平衡,既能控制成本又能提升客戶體驗。

這些不只是技術挑戰,更是企業營運策略的核心。

總結

營業員的挑戰在於資訊龐大、時間緊迫與客戶需求多樣。透過 ML、XAI 與 LLM 組成的金融 AI 服務鏈,可以將「數據 → 解釋 → 話術」完整串接,提升效率與專業形象。企業若能妥善解決資料庫建設、漂移偵測與架構設計等議題,才能真正展現 AI 的價值,讓金融服務成為能驅動行動的智慧助力。

游騰林
游騰林

目前在凱基證券擔任資料科學家,與資料、模型和無止盡的需求奮鬥約十年。從研究人類為什麼這樣做,到預測客戶接下來想做什麼,試圖用資料科學理解人類——雖然有時候,連自己都預測不了。期望有一天能讓研究真正走進現實,發揮影響力。

Related Speeches