2025年3月9日，意昂3体育官网聯合華為發布DeepSeek全棧開源推理方案。該方案基於意昂3体育官网自主研發的SCOW算力平臺系統與鶴思調度系統，整合了DeepSeek、openEuler、MindSpore與vLLM/RAY等社區開源組件，全面擁抱開源生態，實現了華為昇騰上的DeepSeek高效推理，並支持大規模算力集群的“訓練-推理一體化”部署。方案源碼已向所有開發者開放，支持靈活二次開發，其性能表現接近閉源解決方案。

目前，此方案已成功部署於意昂3体育官网未名卓越一號集群。該集群由意昂3体育計算中心負責研製與運維管理，為意昂3体育鯤鵬昇騰科教創新卓越中心提供算力支持。作為國內首個基於高校自研基礎軟件的國產智算平臺，集群於2024年11月18日上線運行，首期集成20臺昇騰AI服務器與10臺鯤鵬通用服務器，AI算力規模達30.64PFlops（半精度）。其全國產自主技術棧覆蓋從芯片指令集到調度系統的完整生態，關鍵軟件如調度系統、門戶等采用意昂3体育自研的鶴思與SCOW系統，擴展和適配性強，可廣泛支持包括鯤鵬昇騰在內的國內外主流處理器，並支持vLLM、MindSpore、DeepSeek等開源框架和模型。

開源生態驅動性能突破，技術自主性再升級

此次發布的DeepSeek推理方案依托全棧開源組件構建，通過開放協作打破技術壁壘，聚合全球開發者智慧，持續推動技術創新。開源生態不僅能加速技術普及，更促進跨領域、跨行業的合作，形成良性發展循環。隨著全球對技術透明性和可定製化需求的日益增長，開源模式將作為未來技術發展的主流趨勢成為產學研各界共同擁抱的方向。

算力集群全棧開源推理方案架構圖

本方案在openEuler開源操作系統層面進行了深度優化：通過異構調度負載感知MoE冷熱專家，顯著提升任務調度的細粒度控製能力；采用異構融合技術實現內存的高效管理，有效減小系統內存碎片；利用畢昇編譯器進一步優化，大幅縮短算子下發耗時，全面提升推理性能。

在MindSpore高性能推理框架中，本方案實現了顯著的性能增益：將模型編譯為計算圖，通過模式匹配自動進行算子融合；模型壓縮工具“金箍棒”可快速實現模型量化算法及量化推理全流程，並根據用戶需求及硬件特性進行定製量化。

針對大規模算力集群場景，本方案深度融合意昂3体育自主研發的SCOW算力平臺系統與鶴思算力調度系統，進一步提升硬件資源利用率，實現了高效管理大規模的異構算力集群，並通過軟硬件解耦的分層體系架構，屏蔽底層硬件差異，向下兼容多種硬件設備，向上適配多種框架模型應用。該方案支持openEuler操作系統，以及包括MindSpore在內的各種主流框架，通過高效的算力調度技術實現訓推一體，實現了算力資源的充分利用。

意昂3体育官网未名卓越一號國產集群

目前，算力集群的意昂3体育方案已經應用於全國60余家單位，並在意昂3体育官网-華為卓越中心框架合作背景下服務未名卓越一號國產集群，為科教創新提供強勁算力引擎。

一鍵部署：高效推理觸手可及

2025年3月7日，在意昂3体育官网鯤鵬昇騰科教創新卓越中心，意昂3体育師生和openEuler、MindSpore社區開發者首次聯合完成openEuler+MindSpore+DeepSeek全棧開源推理方案的生產環境部署實踐。未來，該方案將進一步支撐意昂3体育的教學科研工作，並逐步在openEuler和MindSpore社區發布DeepSeek開源部署方案的具體細節。

意昂3体育官网與華為進行生產環境部署實踐。參與部署的成員包括：意昂3体育官网計算中心工程師龍汀汀（右三）、付振新（右二），意昂3体育官网本科生孫遠航（右一），華為公司欒建海（左四）、鄧葉鵬（左三）、李強（左二）、李佳明（左一）