網(wǎng)絡(luò)系列CPO行業(yè)分析：光電協(xié)同，算力革新.pdf

網(wǎng)絡(luò)系列CPO行業(yè)分析：光電協(xié)同，算力革新。

規(guī)模定律由參數(shù)、算力擴(kuò)展至并行流，互聯(lián)帶寬亦將受推動(dòng)

隨著 Scaling law 由 Pre learning 階段的 parameter scaling 擴(kuò)展至 Post learning 階段的 inference time scaling，模型性能顯著提升，應(yīng) 用滲透亦在加速。為了在盡可能少的增加參數(shù)規(guī)模及硬件負(fù)載的情況 下實(shí)現(xiàn)更好的模型性能，parallel scaling 進(jìn)入學(xué)界視野。根據(jù) Qwen 的研究團(tuán)隊(duì)數(shù)據(jù)，開 8 個(gè)并行流等效于參數(shù)量翻 3 倍的效果，但實(shí)際 增加的硬件成本微乎其微。訓(xùn)練階段的并行過程會(huì)大幅提升“大規(guī)模 同步”的需求，不同處理器或節(jié)點(diǎn)之間需要通信以同步模型參數(shù)或梯 度，并推動(dòng)集群內(nèi)互聯(lián)帶寬的需求。

集群低功耗、高速率的需求下，更高的集成度或?yàn)楦鼉?yōu)解

一方面，根據(jù)數(shù)據(jù)中心 TCO 數(shù)據(jù)，無論上架率和外電負(fù)載，電費(fèi)占比 始終維持在成本首位；另一方面，parallel Scaling 在模型部署過程中 的滲透亦將推動(dòng)集群內(nèi)互聯(lián)帶寬的需求提升。在集群的低功耗、高速 率需求下，CPO（共封裝光學(xué)）技術(shù)得以受到重視。功耗方面，CPO 架構(gòu)的功耗降至 5–10 pJ/bit（傳統(tǒng)可插拔方案 15–20 pJ/bit），博 通 CPO 交換機(jī)實(shí)現(xiàn) 5.5W/800G，英偉達(dá)方案降耗達(dá) 70%。速率方面， 信號(hào)傳輸距離縮短至毫米級(jí)，帶寬密度提升，延遲降低 50%以上。根 據(jù) LightCounting 預(yù)測(cè)，由于 CPO 所具有的性能優(yōu)勢(shì)，到 2027 年 800G 和 1.6T 端口總數(shù)中，CPO 端口將占近 30%。