当地时间周一,谷歌发布了第八代TPU的两款新变体,命名为 8tx 和 8i Max,官方给出的定位是瞄准机密计算和长上下文AI应用。消息一出,“谷歌挑战英伟达”的说法又热了起来。
这条线其实走了很久。TPU是谷歌自研的张量处理器,第一代在2016年就上线,最初只是给自家的搜索和翻译做推理加速。十年下来,它已经从“内部工具”变成了谷歌云的对外产品。
要理解TPU和英伟达GPU的差别,一句话就够:GPU是通用并行计算,TPU是为矩阵运算定制的专用芯片。GPU的强项是灵活,什么模型都能跑,生态成熟;TPU的强项是效率,特定负载下单位算力的成本和功耗更优,尤其是大规模推理。
那为什么大厂都要自研?三个理由。一是成本。云厂商是算力最大的买家,在英伟达的毛利率上让利,等于替别人打工。二是供应。高端GPU的产能和交付长期紧张,自研是给自己留一条后路。三是软硬协同。把芯片、编译器、框架一起设计,能让模型跑得更快,这种优化在通用硬件上很难做到极致。
但要说“挑战”,得看清楚边界。TPU的短板在生态:绝大多数开发者习惯CUDA,模型、库、工具链都是围绕它长出来的。换芯片不是换硬件,是换一整套工作方式。谷歌的对策是用XLA编译器和JAX框架把迁移成本压下来,同时把TPU放在自家云上卖——你不需要买芯片,只需要租算力,门槛低了很多。
另一个现实是,自研芯片主要服务自家业务,外售规模有限。所以短期内它不会让英伟达“失去市场”,更可能的结果是:云厂商用自研芯片承接一部分自家推理负载,把最贵的通用训练需求继续留给GPU。两条路并存。
至于 8tx 和 8i Max 这两款变体,名字本身就说明了策略变化——不再一款芯片打天下,而是按负载分工:机密计算对应数据合规场景,长上下文对应最吃内存的那类任务。
对普通人,这场竞赛的实际意义是:算力成本下降,最终会体现在你用到的每一个AI功能的价格和响应速度上。芯片战争打得越凶,服务越便宜。
鲁南快报