ODCC開放數據中心委員會：2025年云邊協同AI網絡技術白皮書.pdf

ODCC開放數據中心委員會：2025年云邊協同AI網絡技術白皮書。DeepSeek 發布后，AI應用流量持續上漲、推理和智能體驅動了 算力需求的爆炸式增長，邊緣算力開始成為中心算力的快速補充，未 來將形成云邊協同的分布式算力基礎設施，邊緣高集成輕量算網集群 技術、云邊協同技術等將成為分布式算力協同發展的技術加速器，在 此背景下，本項目將分析分布式算力基礎設施下AI推理及訓練的流 量特性及對網絡的需求，研究邊緣AI網絡技術、云邊互聯網絡技術、 分布式算力的統一納管調度技術以及云邊協同AI能力等。

分布式算力基礎設施覆蓋云邊包含中心算力機房、自有邊緣算力 機房、多云/第三方合作算力機房等。在此基礎設施上提供各種AI應 用及AI云服務，例如聊天機器人、AI知識庫、云AI及智能體開發 平臺、圖片生成等AI服務。

針對云邊協同的分布式算力基礎設施，一方面是構建邊緣GPU 算力網絡集群網絡，包含AI推理請求和存儲的前端網絡、GPU間通 信的后端網絡。另一方面是要構建連接中心算力和邊緣算力的云邊互 聯網絡，為算力的統一調度和管理提供穩定可靠的網絡通道，以承載 推理請求及響應、模型文件、容器鏡像及軟件包傳輸等。

AI 云平臺等通常位于中心云，也逐漸擴散到邊緣側，構建分布 式協同的AI平臺，包含算力納管、資源調度、推理及訓練框架、對 象存儲、鏡像源、數據傳輸等支撐組件。通過邊緣算力的統一管理和 調度，可實現算力的彈性擴展、更短的響應時延和更輕量地應用部署。