快科技8月31日訊息，寒序科技今日正式公佈uHBM與uLPU推理計算架構，成為國內首家將MRAM磁儲存與計算單元深度整合的晶片公司搬家。其核心思路是：與其把儲存和計算之間的路修得更寬，不如讓權重直接“住”在計算單元旁邊。
大模型推理進入Decode階段後，每生成一個Token，數十億顆權重都要被反覆讀取搬家。寒序科技的方案是將模型權重長期駐留在Persistent MRAM陣列中，在同一顆Compute-Memory Die內完成矩陣-向量運算，系統只傳遞低維啟用向量。
首代uHBM架構片內權重讀出頻寬設計值最高24TB/s搬家。面向4B多模態主幹模型，uLPU的Decode效能目標超過2000 Tokens/s。
產品形態方面，寒序規劃了從uHBM-Die、uLPU-Chip到Module、2U Tray和Rack的完整路線搬家。
端側產品uLPU Edge由uHBM與NPU協同，面向機器人等物理AI場景；雲端uLPU Cloud透過UCIe實現片間擴充套件，藉助112G/224G SerDes構建機櫃級系統搬家。首代完整工程產品已進入流片前收斂階段。
展開全文
寒序科技成立於2023年8月，孵化於北京大學應用磁學中心搬家。其驗證晶片SpinPU-ED01已回片，整合120個MRAM Bank，實測片上訪存頻寬密度達0.105 TB/(mm²·s)，並完成端到端模型推理與連續24小時穩定執行。
值得一提的是，24TB/s和2000 Tokens/s目前仍是架構設計值，完整效能、功耗和模型相容性還需等首代工程產品流片實測才能確定搬家。
寒序科技方面表示，驗證晶片回答了“這條路能不能走”，接下來兩年的核心任務是把架構真正做成可量產的產品搬家。
