::: 回首頁科研成果學研成果

國網中心助力輔大善用遷移學習機制 客製醫療及教育應用推論服務平台

2025.03.12

大型語言模型(Large Language Model, LLM)是建構AI平台的關鍵技術。不過如何在資源有限的情況下,快速有效的開發、應用LLM,就成為當下產學界的重要課題。在此態勢下,遷移學習(Transfer Learning)漸受各界重視,此機制可大幅降低開發成本與時間,協助中小型組織快速打造符合自身需求的語言模型,藉由AI賦能,提升營運效率。

遷移學習與傳統從頭開始訓練方式的最大差異,在於遷移學習利用現有的預訓練模型為基礎,透過微調適應特定任務或領域。這種方法大幅降低AI運算模型對運算資源和海量訓練數據的需求,可讓開發過程更高效。其核心理念是將已習得的知識「遷移」到新的應用場景。例如利用已在大量一般文本上訓練過的模型,再透過少量的領域特定數據進行微調,使具備執行特定任務或回答特定領域問題的能力。

目前LLM開發多由科技大廠主導,包括封閉式專有模型和開源模型,部分公司則專注於完全開源模型。國網中心開發大語言模型服務平台,協助學研團隊採用遷移學習方法,並選擇開源預訓練模型進行微調,開發客製化語言模型,藉此降低開發成本和時間,輔仁大學助理教授陳泓勳藉由國網中心技術與運算資源所開發的遷移學習平台,可協助無技術背景使用者訓練與應用語言模型。

輔仁大學助理教授陳泓勳將生成式AI技術應用於醫療領域,聚焦於優化護理人員交班流程,以減輕工作負擔。通過與國網中心團隊合作開發的生成式AI工具,該系統能快速總結前一個值班時段的紀錄,生成結構化摘要,供下一位值班人員參考,從而提升交班效率與準確性。該工具架設於國網中心的平台上,提供完整的工作流程,包括數據準備、模型訓練及實際應用,並配備直觀的使用者介面,即使無技術背景的人員也能輕鬆操作。

目前,該平台已進入實際應用階段,並與台中童綜合醫院合作,能將簡短筆記或語音輸入的信息自動轉換為精簡的交班摘要資訊。未來,該系統計劃與醫院的PACS系統(Picture Archiving and Communication System,醫學影像儲存與傳輸系統)進行整合,實現全面的智慧醫療解決方案。除交班紀錄摘要生成外,陳泓勳團隊還在開發智慧開單系統,利用語音辨識或結構化選單操作,自動生成檢查單,進一步減輕醫檢師的行政負擔。

除了醫療應用外,輔仁大學也應用開發平台於企業內部系統,可在封閉環境中運行以保護敏感資訊。為推廣該平台,團隊已在亞洲矽谷學院開設培訓課程,並獲得正面回饋。在教育方面,也開發教育用LLM推論服務,可提供學生實戰經驗,幫助學生熟悉前沿技術應用,提升技術理解力與實踐能力。

國網中心提供容器化技術與虛擬運算服務,大幅降低環境建置門檻,並以大語言模型開發平台協助輔仁大學,合作創造大語言的AI應用。團隊成員彼此間專業互補,各自負責教育訓練、平台設計、專屬領域語言模型等工作,合力完成兼具穩定性、安全性和低維護成本的AI應用示範。


圖說:展示醫護人員在醫院環境中使用AI工具進行值班交接。AI工具快速將上一班的簡短醫療紀錄轉換為結構化摘要,顯示在電腦螢幕上,提供下一位值班者參考。

圖說:展示學生在教育環境中使用AI平台進行基於大型語言模型的學習與實驗