生成式 AI 的能耗和碳排放

Wilson (42865)发表于 2023年02月13日 23时19分 星期一
来自追光的孩子

科技巨头们在生成式 AI 领域展开激烈的竞争，微软和 Google 都计划在搜索引擎中整合 AI，索引和搜索互联网都需要大量资源，但 AI 所需要的资源将会高出几个数量级。英国 Surrey 大学网络安全教授 Alan Woodward 称，这需要处理能力、储存和有效检索。训练大语言模型（LLM）如 ChatGPT 使用的 GPT-3.5 和 Google 的 Bard 使用的相似模型，都需要大量的算力。OpenAI 和 Google 都没有透露使用的算力，第三方分析估计训练 GPT-3 消耗了 1287 MWh，释放出了 550 吨二氧化碳，再加上执行搜索和服务百万用户所需的能耗，排放还会更高。

https://www.wired.com/story/the-generative-ai-search-race-has-a-dirty-secret/