開發內容與工作範圍
以下工作可根據現有系統和專案條件組合實施，具體模組與交付責任在專案範圍中確認。
平臺與資源評估
核對目標晶片、板卡、SDK、介面、供貨和驗收條件，確認可實施範圍與關鍵風險。
硬體方案與載板開發
按照參考資料和目標外設開展電源、儲存、網路、顯示、攝像頭及擴充套件介面設計。
BSP 與嵌入式系統
圍繞可取得的 SDK 開展啟動、核心、裝置樹、檔案系統、系統服務、升級和日誌開發。
驅動與外設整合
結合原理圖、介面時序和器件資料完成驅動、配置及業務介面聯調。
應用與整機驗證
整合裝置管理、資料處理和業務程式，並在約定樣機上驗證功能、資源與持續執行。
版本交付與匯入支援
交付約定範圍的設計、原始碼或補丁、韌體、構建燒錄說明和測試記錄。
昇騰910B開發與Atlas A2產品是什麼關係？
官方CANN文件將910B運算元包用於Atlas A2系列產品。專案實施時需進一步確認Atlas 800T A2、Atlas 800I A2、Atlas 200T A2或其他具體產品形態。服務可覆蓋CANN環境、torch_npu或MindSpore訓練適配、MindIE等大模型推理路線、HCCL通訊、單機或約定範圍的多機驗證、效能分析和部署運維，並根據伺服器型號、記憶體配置和叢集拓撲建立技術基線。
大模型專案先做模型支援、權重許可、資源需求、序列長度、併發或訓練規模評估，再確定訓練、微調、推理或服務化路線。公開模型名稱不等於目標版本在指定環境中自動可用。
適用專案
以下場景可進入評估；具體工作包以目標硬體、資料和驗收條件為準。
- 在Atlas A2訓練或推理產品上部署開源或自有大模型
- PyTorch訓練、微調或推理程式碼需要遷移到torch_npu環境
- MindIE或其他經驗證路線需要模型適配、服務化和介面接入
- 單機多卡或多機任務存在HCCL、拓撲、視訊記憶體、超時或效能問題
- 需要進行量化、批處理、併發、KV快取或資源排程驗證
- 需要建立容器、健康檢查、監控、日誌、升級和回滾的交付基線
昇騰910B與Atlas A2開發服務內容
每項服務在啟動前確認輸入資料、版本基線、交付成果、驗收方法和範圍邊界。
01 · 產品與資源評估
確認Atlas A2產品、NPU數量和拓撲、CPU、記憶體、網路、儲存及可用軟體棧，估算模型裝載與業務約束。
02 · CANN 910B環境
核對驅動韌體、toolkit、910B運算元包、框架外掛、NNAL或相關元件，形成可復現安裝與版本鎖定。
03 · 訓練與微調適配
處理裝置遷移、運算元、混合精度、資料、最佳化器、檢查點、並行策略和分散式啟動。
04 · 大模型推理與服務化
評估支援矩陣，完成模型載入、服務介面、併發、批處理、流式輸出、異常處理和呼叫側整合。
05 · 通訊與效能工程
定位計算、記憶體、通訊、資料、運算元和服務鏈路瓶頸，使用固定負載形成前後對比。
06 · 穩定性與運維
驗證長時執行、重啟恢復、任務失敗、日誌、健康檢查、資源隔離、升級和版本回滾。
專案評估需要的輸入
建議在專案啟動前準備以下資料；如部分資料暫缺，可先完成環境梳理和關鍵功能驗證。
- Atlas A2具體產品、規格、NPU拓撲和網路儲存環境
- 驅動、韌體、CANN、910B運算元包、框架與元件版本
- 模型名稱與精確版本、權重來源、許可和配置
- 訓練或推理程式碼、依賴、容器和啟動指令碼
- 輸入長度、輸出長度、併發、批次、精度與業務SLA口徑
- 驗收資料、測試指令碼、安全要求和部署邊界
實施路徑
支援矩陣確認
凍結產品、模型、版本、資源、許可和目標指標。
最小閉環
完成單卡或最小卡數的模型載入、功能和結果驗證。
擴充套件與服務化
擴充套件多卡、併發、介面、排程和異常恢復。
基準與交付
按固定負載完成精度、效能、穩定性和復現驗收。
交付物與驗收邊界
在窄屏裝置上可左右滑動，使用鍵盤時可按左右方向鍵檢視完整表格。
| 工作包 | 主要交付物 | 驗收依據 | 範圍邊界 |
|---|---|---|---|
| 環境基線 | 版本矩陣、安裝指令碼、容器或部署包、檢查命令 | 目標節點可復現裝置、框架和模型基礎執行 | 廠商軟體與第三方模型按照相應許可提供 |
| 訓練或推理工程 | 程式碼、配置、服務介面、啟動指令碼和測試工具 | 約定模型、資料和任務用例透過 | 模型和運算元範圍以目標版本支援矩陣及驗證結果為準 |
| 效能穩定性 | 基準指令碼、引數、日誌、分析和迴歸報告 | 在約定拓撲、負載和時長下達到書面指標 | 測試結果適用於約定卡數、序列和併發條件 |
相容性、許可與責任邊界
需另行約定的內容
- 跨Atlas A2配置的模型相容性驗證
- 大規模叢集服務等級所需的規模化測試
- 模型權重、資料集和商業元件的授權及再分發
- 智算中心建設中的機房、網路、儲存和排程平臺總包
常見問題
910B運算元包對應什麼產品？
官方CANN安裝文件將其用於Atlas A2系列產品；專案還需確認具體伺服器或異構元件型號。
支援哪些大模型？
支援範圍以目標CANN、MindIE或所選框架的當期支援矩陣和關鍵功能驗證結果為準。
可以開展PyTorch訓練遷移嗎？
可以評估torch_npu路線，並檢查API、運算元、精度、資料、並行和檢查點。
MindIE部署需要哪些輸入？
建議提供精確模型版本、權重許可、配置、目標硬體、軟體版本、輸入輸出、併發和服務介面要求。
吞吐效能如何確認？
在明確硬體拓撲、模型、序列長度、併發、批次和精度模式後，按照約定測試方法進行測量。
單機多卡和多機多卡有什麼差別？
多機環境還涉及網路、HCCL拓撲、排程、儲存、容錯和節點一致性，工作範圍需單獨確認。
怎樣驗收大模型服務？
固定模型、權重、請求集、併發、輸入輸出長度和計時範圍，檢查正確性、時延、吞吐、資源、穩定性和錯誤恢復。
可以只開展故障排查嗎？
可以根據約定範圍提供環境、模型、通訊或服務問題診斷，並交付復現證據、原因分析和修復方案。
官方資料與版本依據
下列連結用於確認產品形態和軟體配套；正式專案仍以雙方凍結版本的官方資料為準。
服務與驗收說明
本頁說明可討論的工程服務範圍，不構成對固定效能、週期、價格、認證、審批或業務結果的承諾；最終範圍以目標環境、輸入資料及雙方確認的技術和商務檔案為準。
線上諮詢
電話諮詢
微信諮詢
回到頂部