谷歌推出迄今為止最強大、最節能的人工智能芯片

　　谷歌母公司 Alphabet 推出了人工智能數據中心芯片系列的最新成員：Trillium。

　　Trillium 代表最先進的人工智能專用硬件，由張量處理單元 (TPU) 組成。這些用于人工智能數據中心的定制芯片是 Nvidia 產品的出色替代品，為市場提供了引人注目的選擇。

　　目前，英偉達在人工智能芯片領域占據了 80% 的市場份額，谷歌則占據了剩下的 20% 的份額。值得注意的是，谷歌并不出售這些芯片，而是通過其云計算平臺出租它們。

　　Trillium 是其第六代 TPU，是迄今為止性能最高、最節能的 TPU。正如博客文章中所述，谷歌強調 Trillium TPU 與 TPU v5e 相比，每芯片的峰值計算性能提高了 4.7 倍。

　　與 TPU v5e 相比，該公司的最新產品擁有雙倍的高帶寬內存 (HBM) 容量和帶寬，以及雙倍的芯片間互連 (ICI) 帶寬。

　　此外，Trillium 還具有第三代 SparseCore，這是一種專門的加速器，用于處理高級排名和推薦工作負載中的超大嵌入。該博客文章還強調了以減少延遲和降低成本來訓練下一波“基礎模型”的能力。

　　據谷歌稱，最新的 Trillium TPU 的能效比 TPU v5e 高出 67% 以上。此外，Trillium 能夠在單個高帶寬、低延遲 Pod 中擴展到多達 256 個 TPU。

　　該博客還提到，除了這種 Pod 級可擴展性之外，配備多片技術和鈦智能處理單元 (IPU) 的 Trillium TPU 還可以擴展到數百個 Pod，連接建筑物級超級計算機中的數萬個芯片，這些芯片通過每秒數拍比特的數據中心網絡。

　　該公司通過擴大矩陣乘法單元 (MXU) 的尺寸并提高時鐘速度，將每個 Trillium 芯片的計算性能提高了 4.7 倍。

　　該公司在一篇博客文章中表示，“Trillium TPU 將為下一波人工智能模型和代理提供動力，我們期待著幫助我們的客戶獲得這些先進的功能?！?/p>

　　這一進步將大大有利于谷歌的云計算服務和Gemini。 Deep Genomics 和德勤等依賴谷歌云服務的公司將受益于新芯片的顯著提升。

　　Trillium TPU 對訓練和服務長上下文、多模式模型的支持將使 Google DeepMind 能夠比以往更快、更高效、延遲更低地訓練和服務未來幾代 Gemini 模型。

　　Trillium TPU 是 Google Cloud 人工智能超級計算機的組成部分，這是一種專為尖端人工智能工作負載而設計的超級計算架構金年會。

　　谷歌 Deepmind 和谷歌研究院首席科學家 Jeff Dean表示： “Gemini 1.5 Pro 是谷歌規模最大、能力最強的 AI 模型，它是使用數萬個 TPU 加速器進行訓練的?！?/p>

　　“我們的團隊對第六代 TPU 的發布感到非常興奮，我們期待在 Gemini 模型規模上提高訓練和推理的性能和效率。”