2026年11月9日,Google為其第八代TPU陣容新增兩款晶片:TPU 8i Max將現有推理晶片的記憶體提升一倍,達到384GB高頻寬記憶體;TPU 8tx則具備硬體層級加密,讓雲端客戶可以運行敏感的AI工作負載,即使對Google本身也不會洩露數據或模型權重。這是Google首次在同一年內推出四款不同的TPU系統。
由兩款晶片到四款,同一代之內完成
Google早於2026年4月的Google Cloud Next大會上,推出基礎版第八代TPU——專攻訓練的TPU 8t及專攻推理的TPU 8i,將過去「一款晶片包辦所有工作」的設計拆分為兩款專用晶片。Google聲稱TPU 8t的訓練效能比上一代Ironwood高出達2.7倍,TPU 8i則在推理性價比上提升80%,晶片間通訊延遲亦減少近半。七個月後,Google再次拆分產品線,這次沿著兩個不同方向:安全性與記憶體容量。Google在官方網誌文章《Our newest TPUs: 8tx and 8i Max, built for the agentic era》中,由高級副總裁兼首席技術官Amin Vahdat撰文指出,兩款新晶片是為解決企業實際運行代理式(agentic)工作負載後才浮現的問題——並非跑分數字,而是數據隔離與上下文長度方面的實際部署阻力。
TPU 8i Max:384GB記憶體,讓AI代理不會「失憶」
TPU 8i Max在實體上將兩片TPU 8i晶片封裝在一起,Google表示這令運算力、晶片內SRAM及HBM頻寬均提升一倍。據Google Cloud人工智能及運算基建副總裁兼總經理Mark Lohmeyer透露,每個封裝的高頻寬記憶體達384GB——較單片TPU 8i的288GB大幅提升——合計記憶體頻寬約為每秒17.2TB。Lohmeyer將此形容為「為公路增加更多車道」,而非單純加大引擎,原因是對於需要在運作期間保存大量上下文的工作負載而言,記憶體頻寬而非原始運算力,正日益成為瓶頸:一個需要橫跨整個程式碼庫工作,或分析數小時影片的AI代理,所需保存的狀態遠超一次普通對話回應。由於TPU 8i Max在相同機架空間內塞進雙倍晶片,Google亦將其定位為「密度」方案——在既有數據中心的每平方呎、每瓦特之內提供更多運算力與記憶體。Google官方TPU產品頁面目前將TPU 8i Max標示為「即將推出」,尚未公布確實的正式發售日期。
TPU 8tx:相同晶片,加上重重防護
TPU 8tx使用與專攻訓練的TPU 8t相同的底層晶片,但搭配第五代AMD EPYC主機處理器,而非Google自家的Axion晶片,並加入機密運算硬體,確保客戶數據及專有模型權重在實際處理期間(而非僅在儲存或傳輸時)均保持加密及隔離——這正是大多數「機密運算」雲端方案未能做到的一環。Google將此晶片明確定位為服務受監管行業及政府客戶,供其運行涉及敏感數據的專有模型,並表示部分客戶甚至可以將TPU 8tx部署於自家數據中心,而非Google的機房內。該晶片沿用TPU 8i的互連網絡,聲稱延遲比TPU 8t低至多一半,而額外的加密功能帶來的效能損耗「近乎零」——以往機密運算功能普遍會犧牲一定速度,若這項「近乎零損耗」的說法經獨立測試後屬實,將是罕見的例外。Google亦將TPU 8tx定位為處理較小規模任務之用,無需動用整個訓練集群:例如針對私有數據進行微調、模型蒸餾,以及客戶希望完全保留在內部進行的強化學習訓練。
Google為何選擇在此時推出
這一切並非無的放矢。整個2026年,Google都致力將TPU打造成Nvidia GPU的真正替代方案,既用於自家Gemini模型訓練,亦愈來愈多供應給希望避開Nvidia定價及排隊分配制度的外部雲端客戶——有關此次發布的報導指出,Google明確將新晶片定位為直接挑戰Nvidia的AI加速器業務。在不足一年內將同一代晶片拆分成四款不同變體,亦反映出真正的客戶需求所在:不是排行榜上更高的運算力數字,而是AI代理保存長上下文所需的記憶體容量,以及銀行、醫院及政府機構——企業AI應用中最後一批猶豫不決的客群——所需要的可驗證數據隔離能力。TPU 8tx及TPU 8i Max目前均未正式出貨,Google表示要到2027年才會更廣泛供應,因此兩者的各項聲稱,尤其是「近乎零損耗」的加密效能說法,仍要等獨立測試結果及早期客戶實際使用後才能見真章。就目前而言,這次發布既是一次產品推出,同樣也是Google對下一階段代理式AI基礎設施需求的判斷之信號。
圖片:Taylor Vick/Unsplash(資料中心網絡線纜示意圖,並非官方產品照片)
