微软周二宣布将把 Bing 搜索使用的部分机器学习模型转移到甲骨文的 GPU 集群。甲骨文囤积了大量英伟达的 A100 和 H100 GPU,而 Bing 搜索的生成式 AI 聊天服务 Bing Chat 需要使用大量的英伟达的 AI 芯片。双方的合作显然是为了满足生成式 AI 不断增长的计算需求。生成式 AI 使用的大模型不仅需要大量 GPU 集群进行训练,为了让模型发挥作用还需要大量 GPU 集群去执行推理。甲骨文的 GPU 集群将有助于 AI 的推理工作。
https://www.theregister.com/2023/11/07/bing_gpu_oracle/