大型語言模型高效能 AI 平台 – All-In-One 一站式集成推論服務

RHAP ( Resilient High-Performance AI Platform )

國網中心的大型語言模型高效能 AI平台主要提供給客戶一個「私有」、「獨立」、「專用」的 LLM 大型語言平台系統與加值應用服務的生態環境。 本平台是以“繁體中文優化”並增強 “以台灣為主體性”的 LLM 基礎模型為主 , 再結合國網中心強大的運算資源來建構出一座高彈性與高效能的 LLM 運算平台。 這個高效能 AI 平台不僅提供大型語言模型的推論服務,還能進一步協助客戶使用平台對其領域資料進行 CP 預訓練與 FT 優化,最終幫助客戶打造專屬於其領域的客製化大型語言模型,並開發相關的應用服務。