Google 宣布新一代 AI 芯片 TPU v5e
2023-8-31 21:37:2 Author: www.solidot.org(查看原文) 阅读量:6 收藏

Google 宣布了其自己设计自己使用的新一代 AI 芯片 TPU v5e,它的 TPU 芯片只通过 Cloud TPU 云服务提供给客户。Google 是在 2016 年推出了第一代 TPU(tensor processing unit),2021 年发布 TPU v4。相比上一代 TPU v4,TPU v5e 每一美元的训练性能提高 2 倍,每一美元的推理性能提高 2.5 倍,而成本不到 TPU v4 的一半,使得更多组织能够训练和部署更大更复杂的 AI 模型。TPU v5e 最多允许 256 个芯片互连,总带宽超过 400 Tb/s,支持八种不同的虚拟机配置。根据速度基准测试,在 TPU v5e 上训练和运行 AI 模型时速度提高了 5 倍。

https://cloud.google.com/blog/products/compute/announcing-cloud-tpu-v5e-and-a3-gpus-in-ga
https://www.thepaper.cn/newsDetail_forward_24421175


文章来源: https://www.solidot.org/story?sid=75955
如有侵权请联系:admin#unsafe.sh