6月17日機鋒網資訊，英偉達已選定美光科技作為其下一代內存解決方案SOCAMM（小型壓縮附加內存模塊）的首家供應商，這一決定標志著AI服務器內存技術迎來了重要革新。
據悉，SOCAMM是一種專為數據中心AI服務器設計的新型高性能、低功耗內存。由于其在AI加速中的關鍵作用，部分業界人士甚至將其視為“第二代高帶寬存儲器（HBM）”。此前，英偉達曾委托三星電子、美光等內存制造商開發SOCAMM原型，而美光憑借在低功耗DRAM性能上的卓越表現，率先獲得了英偉達的量產批準，超越了規模更大的競爭對手三星。
與傳統的垂直堆疊并與GPU緊密集成的HBM不同，SOCAMM主要支持中央處理器（CPU），在優化AI工作負載方面發揮著關鍵的支撐作用。首批SOCAMM模塊基于堆疊式LPDDR5X芯片，由英偉達精心設計，并計劃應用于其2026年發布的下一代AI加速器平臺Rubin上。
在技術實現上，SOCAMM采用了引線鍵合和銅互連技術，每個模塊連接16個DRAM芯片，這與HBM使用的硅通孔技術形成了鮮明對比。銅互連結構顯著增強了散熱性能，這對于AI系統的穩定運行和可靠性至關重要。特別是在每臺AI服務器將搭載四個SOCAMM模塊（總計256個DRAM芯片）的情況下，散熱效率的重要性尤為突出。
美光方面宣稱，其最新LPDDR5X芯片的能效比競爭對手高出20%，這也是其贏得英偉達訂單的關鍵因素之一。隨著AI技術的不斷發展，對內存技術的要求也越來越高。美光在低發熱量內存技術上的突破，不僅為SOCAMM的廣泛應用提供了有力保障，也有望提升其在競爭激烈的HBM領域的地位。
值得一提的是，隨著行業向需要堆疊12層甚至16層DRAM的HBM4邁進，熱管理已成為關鍵的差異化因素。美光在SOCAMM上的成功經驗，無疑為其在HBM4等更高級內存技術上的研發提供了有力支持。
分析師認為，SOCAMM的可擴展性意味著它未來可能應用于更廣泛的英偉達產品線，包括其即將推出的個人超級計算機項目DIGITS。這將進一步推動AI技術的發展和應用，為數據中心和AI服務器市場帶來新的變革。
