近日，達摩院發布了全球首款基于DRAM的3D鍵合堆疊存算一體芯片。它解決了傳統馮·諾伊曼架構的性能瓶頸，可提供更高容量、高內存的存儲，滿足諸如人工智能等高并發場景的應用。與傳統芯片相比，該芯片可提供20倍以上的片上存儲容量（4GByte高速內存），在實際推薦系統應用中，存算一體芯片的性能可提升10倍以上，能效提升超過300倍！

　　在傳統芯片架構中，內存和計算分離，計算單元要先從內存中讀取數據，計算完成后再存回內存。然而，面對現在高并發的計算需求，頻繁的數據搬運會導致巨大的功耗和算力瓶頸。數據顯示，數據從內存單元傳輸到計算單元需要的功耗是計算本身的200倍，因此真正用于計算的能耗和時間其實占比很低。

　　另外，存儲和處理器的發展不均也嚴重影響了數據傳輸的速度。目前，處理器的算力以每兩年3.1倍的速度增長，而內存的性能每兩年只有1.4倍的提升。時至今日，兩者的差距越來越大，數據傳輸就像處于一個巨大的漏斗中，寬的一端是處理器，而狹窄的一端則是存儲器，后者的性能極大地影響了數據傳輸的速度，這也被認為是傳統計算機的阿克琉斯之踵。

　　對于以上兩個問題，達摩院計算技術實驗室通過混合鍵合(Hybrid Bonding)3D堆疊技術將DRAM和邏輯芯片結合，最終的測試芯片顯示，這種存算技術和架構的優勢明顯，與數據中心的推薦系統對于帶寬/存儲的需求完美匹配金年會。該芯片將AI計算芯片和內存芯片通過3D堆疊技術高效封裝集成，其中內存die采用了定制化高性能DRAM架構，計算芯片方面，達摩院研發設計了基于流的定制化加速器架構，對推薦系統端到端進行加速，包括匹配、粗排序、神經網絡計算、細排序等任務。這種近存架構也有效解決了帶寬受限的問題，最終內存、算法以及計算模塊完美融合，大幅提升帶寬的同時還實現了超低功耗，展示了近存計算在數據中心場景的潛力。

　　目前，達摩院在存算一體架構方向上擁有大量領先成果，在ISCA、Micro、HPCA等頂級計算機體系結構會議上均發表過多篇論文，該芯片的研究成果也被ISSCC 2021收錄。

　　在實際應用上，存算一體芯片在海量數據計算場景中擁有天然的優勢，在終端、邊緣端以及云端都有廣闊的應用前景。例如VR/AR、無人駕駛、天文數據計算、遙感影像數據分析等場景中，存算一體芯片都可以發揮高帶寬、低功耗的優勢。從長遠來看，存算一體技術還將成為類腦計算的關鍵技術。