英特尔宣布了 AI 加速器 Gaudi 3,相关产品将在第三季度上市。Gaudi 3 使用 5 纳米工艺制造,芯片巨人可能将其交给了台积电等代工。英特尔在 Meta 的开源大模型 Llama 以及 Falcon 等模型上测试了 Gaudi 3,称其功耗低于英伟达的芯片,能效是英伟达 H100 GPU 的2 倍,运行大模型的速度是其 1.5 倍。Gaudi 3 和 AMD 的 AI 加速器类似都使用了开放标准接口 Open accelerator module (OAM),相比下英伟达使用了私有接口。
https://www.intel.com/content/www/us/en/newsroom/news/vision-2024-gaudi-3-ai-accelerator.html