某省級城市商業銀行作為區域領先的金融機構，積極擁抱人工智能（AI）技術，推動業務創新與服務升級。為了推進大模型項目的進一步研究與實際應用，銀行亟需建設一個能夠對異構算力統一調度管理的智算體系，盤活已有的異構算力資源，支撐模型訓練開發、打造推理一體化平臺。主要解決以下問題：

缺乏有效的資源調度策略，單卡 GPU 算力利用率低，資源浪費問題突出。

資源動態分配、多機聚合等靈活調度能力不足，難以匹配業務波動需求。

開源方案穩定性、隔離性欠佳，管理精細度不足，無法支撐大模型項目高標準需求。

打造金融 AI 模型訓練推理平臺

在青云科技AI 智算平臺的支撐下，銀行成功打造了一款為金融行業量身定制的 AI 模型訓練推理平臺。該平臺將銀行現有算力資源集成，通過構建統一調度的管理資源池化層，實現了 GPU 資源的統一調度、靈活分配、彈性伸縮等云化能力。這一創新解決方案不僅滿足了不同時段、不同業務對資源的需求，更為上層全棧云平臺提供了穩定、高效的 GPU 算力資源。

從資源提效到技術升級

資源利用率顯著提高。青云 AI 智算平臺支持虛擬 GPU 和物理 GPU 的調度與共享使用，通過平臺的統一調度和靈活分配，銀行能夠根據不同業務需求，快速調整資源配比，同時在云原生環境下實現了 GPU 的共享能力，多應用并行使用資源，實現了資源的最大化利用。

運維復雜度大幅降低。通過青云 AI 智算平臺自動化、智能化的管理方式，銀行大幅降低了運維復雜度，提高了運維效率和工作質量，進一步釋放了人力。

無縫對接現有應用。青云 AI 智算平臺兼容當前 AI 應用代碼和使用習慣，銀行無需對現有應用大規模改造，即可享受平臺帶來的便利。

彌補技術短板。青云 AI 智算平臺在資源池化能力、國產芯片支持、安全隔離性等方面具有顯著優勢，為銀行的大模型項目提供了強有力的技術支撐。