Pi机器人开发商Inflection AI斥资6亿美元购买22000张英伟达H100构建超算
2023-7-7 15:21:50 Author: www.landiannews.com(查看原文) 阅读量:13 收藏

由 DeepMind 联合创始人 Mustafa Suleyman 和 LinkedIn 联合创始人 Reid Hoffman 创立的人工智能初创公司 Inflection AI 最近获得 13.5 亿美元融资,该公司在第一轮融资中获得了微软、Greylock 和 Reid Hoffman 提供的 2.25 亿美元融资。

在最新一轮的 13.5 亿美元的融资中获得了英伟达以及微软的继续支持,拿到融资后 Inflection AI 计划构建超级计算机用于 AI 计算。

Pi机器人开发商Inflection AI斥资6亿美元购买22000张英伟达H100构建超算

Inflection AI 的主要产品就是人工智能聊天机器人 Pi,该公司被视为是 OPENAI 的顶级竞争者之一,微软一边投资 OPENAI 一边投资 Inflection AI 可见不想错过 AI 热潮。

Inflection AI 称这次获得的融资将主要用于购买硬件用来构建超级计算机,构建的超级计算机将为 Pi 提供有力支持,为此 Inflection AI 将购买 22000 张目前业界性能最好的加速卡 --- 英伟达 H100。

英伟达 H100 加速卡单张售价为 30000 美元,22000 张 H100 就是 6 亿美元,不过如此批量购买应该会有折扣价吧?

购买的这些加速卡只是一部分,因为还有购买其他高性能配件,比如 CPU 和企业级固态硬盘以及内存条等,Inflection AI 的超级计算机整体造假应该会远超 6 亿美元。

不过带来的回报也很可观,这台超算构建完成后将立即成为全球排名第二的超算,仅次于美国橡树岭国家实验室的 Frontier 超算。

22000 张 H100 理论上可以提供 1.474exaflops 的 FP64 性能,这是使用 Tensor 核心的结果。如果使用 CUDA 内核运行通用 FP64 则峰值性能为 0.737 FP64 exaflops。

Frontier 超算的最高性能为 1.813 FP64 exaflops,如果是 Tensor 的话则是 3.626exaflops,还是远远领先于 Inflection AI 的,但 Inflection AI 只是商业公司,无法和国家级的超算相比。

当前 Inflection AI 只要使用 Microsoft Azure 提供的运算力,根据该公司自己的披露,其使用 3584 个英伟达 H100 加速卡的算力为 Pi 提供支撑。

但随着使用量增加、模型训练等继续租用微软的 GPU 算力确实还不够,不如自己购买 H100 加速卡构建 GPU 集群。

版权声明:感谢您的阅读,除非文中已注明来源网站名称或链接,否则均为蓝点网原创内容。转载时请务必注明:来源于蓝点网、标注作者及本文完整链接,谢谢理解。


文章来源: https://www.landiannews.com/archives/99382.html
如有侵权请联系:admin#unsafe.sh