Alphabet (GOOGL) 與 Broadcom 聯手推出雙用途第8代 TPU 晶片

重點摘要

• Alphabet 推出第八代張量處理器：針對訓練工作負載優化的 TPU 8t，以及專為推理工作負載設計的 TPU 8i
• 專注於推理的 TPU 8i 與前代產品 Ironwood 相比，每美元性能提升了 80%
• 兩款處理器均與 Broadcom 合作開發，並與 Google DeepMind 協同工程設計
• TPU 8t 訓練處理器最多可擴展至 9,600 顆晶片，並提供 Ironwood 兩倍的晶片間頻寬
• Google Cloud 客戶將於 2025 年稍後獲得兩款晶片的使用權

Alphabet 旗下 Google 部門於週三發布兩款專用人工智能處理器，這是其張量處理器架構首次拆分為訓練與推理兩款獨立晶片。

TPU 8t 專為 AI 模型訓練而設計，而其對應產品 TPU 8i 則專注於推理——即將已訓練模型部署於實際應用場景的過程。Broadcom 擔任共同開發夥伴，延續了長達十餘年的合作關係。

Alphabet Inc., GOOGL

這代表與過往做法的策略性轉變。早期的 TPU 版本將訓練與推理能力整合於單一處理器中。Google 將此變革歸因於代理式 AI 系統的崛起——這類自主模型以最少人工監督運行於持續回饋循環中——需要更具針對性的客製化晶片。

以推理為導向的 TPU 8i 每顆處理器內建 384 MB SRAM——是 Ironwood 容量的三倍。Google 表示，此架構強化消除了「等候室」瓶頸，降低了多名用戶同時查詢模型時產生的延遲峰值。

推理能力大幅提升

與 Ironwood 相比，TPU 8i 的成本效益提升了 80%。在實際運營層面，企業無需增加預算，即可應對近乎雙倍的用戶需求。

該晶片還展現出每瓦能效提升最多達 2 倍的表現，這得益於動態電源管理技術，可根據實時工作負載需求調節能耗。

兩款處理器首次採用 Google 的 Axion CPU 作為主機處理器，能夠在系統架構層面進行優化，而不僅限於提升單顆晶片的性能。

在訓練能力方面，TPU 8t Superpod 配置支援最多 9,600 顆處理器的叢集，並具備 2 PB 高頻寬記憶體。這是 Ironwood 晶片間通訊頻寬的兩倍，Google 聲稱可將前沿模型的開發週期從數月壓縮至數週。

在相同價格下，該訓練處理器的運算性能達到第七代 Ironwood 架構的 2.8 倍。

早期採用者與產業影響

早期採用正持續升溫。Citadel Securities 利用 Google 的 TPU 基礎設施開發量化研究平台。美國能源部全部十七個國家實驗室均在該處理器上運行 AI 協同科學家應用程式。Anthropic 已承諾使用數千兆瓦的 Google TPU 運算容量。

DA Davidson 的分析師於九月預測，Google 的 TPU 部門若與 Google DeepMind 合併計算，估值可能接近 9,000 億美元。

Google 對 TPU 維持獨家發行模式——不提供直接購買，僅能透過 Google Cloud 服務存取。Nvidia 持續向 Google 供應 GPU 硬體，而 Google 確認將成為首批提供 Nvidia 即將推出的 Vera Rubin 平台的雲端服務供應商之一，預計於今年稍後上線。

這些處理器與 Google DeepMind 緊密協作開發，DeepMind 已將其用於訓練 Gemini 語言模型，並優化驅動 Search 及 YouTube 平台的演算法。

Google 宣布，TPU 8t 與 TPU 8i 兩款產品均將於 2025 年稍後向雲端平台客戶正式開放。

The post Alphabet (GOOGL) Unveils Dual-Purpose 8th-Gen TPU Chips Developed With Broadcom appeared first on Blockonomi.