
TPU v5是谷歌开发的张量处理单元(TPU),是专为机器学习设计的AI加速芯片 。2023年,谷歌发布了v5e版本 ,v5p版本也被部署 。
v5e于2023年推出,针对中大型模型的训练与推理,相比前代TPU v4,其训练性能提高2倍,推理性能提升2.5倍,成本降低50% 。v5p发布,是性能更强的版本,专为训练大规模模型设计,其FLOPS比v4提高2倍以上,高带宽内存(HBM)提高3倍,训练大型语言模型的速度比v4快2.8倍 。v5p每个模块集成8960颗芯片,配备95GB HBM,曾用于训练谷歌Gemini大模型 。
想要了解更多“TPU v5”的信息,请点击:TPU v5百科
