ϵˣĽ
124324567980-
ֻţ12346132768985
棺765434657687
ַ
  ̸ͧChatGPT̼ŷվڸߣ>>ǰλã > ͧ >

̸ͧChatGPT̼ŷվڸߣ

ߣadmin ʱ䣺2023-02-28 02:07

网红聊天机器人ChatGPT的碳排放究竟多高?

€€€近关于AI聊天创作工具ChatGPT的讨论很多€这是伊隆·马斯克创建的OpenAI公司€研发?/p>

€€先是微软宣布再砸100亿美?/font>入股OpenAI,然后亚马€和美版“今日头条€BuzzFeed宣布将在日常工作中启–hatGPT,同时,百度也宣布将?月推出€中国版”的ChatGPT聊天机器?/a>。在多家科技公司推波助澜后,ChatGPT瞬间引发全球关注?/p>

€€€些网友开始疯狂测试ChatGPT,比如写代码、写剧本、写小说、写新闻、写作业、广告文案€知识搜查,甚至玩游戏等,€ChatGPT展现的能力也不负众望,不仅对答如流,甚至还充满智慧,洞察人€,比真人回答都丝毫不差?/p>

€€还有€些网友开始谈论ChatGPT的投入成本,像谷歌€华为€特斯拉、微软€Meta、苹果等,每年投入数以百亿美元的研发费用,被称为烧钱无底洞€?/p>

€€但是,很少有人谈论ChatGPT″的环境成本€?/font>

€€我们要意识到,即使是数字产品也需要能源来€发和消€€据统计,信息和通信€?(ICT?行业和数据中心行业在全球温室气体排放中所占比例相对较大,约占全球电力消€的3-5%?/p>

€€如果这些数字产品(从我们手机上运行的应用程序到在云端运行的数据),一旦所消€的电力不是由可再生能源产生的,就会产生碳排放€这就是机器学习″,也会产生碳排放的原因€ChatGPT也不例外?/p>

€€谷歌曾表示,公司总能源消耗的15%用于研究、开发和生产中与机器学习相关的计算€?/font>据NVIDIA和亚马€估计,机器学习工作中推理处理占算力消€的80%-90%?/font>

€€这些″€消€的能源也影响着气€变化€在本文中,我们将从碳足迹的角度来看€下ChatGPT对环境的影响?/p>

€€这里我们可以采用广泛使用的生命周期评?(LCA)法,该法旨在涵盖产品或过程生命周期的所有阶段€?/p>

€€虽然生命周期评估 (LCA)法通常是评估产品从摇篮到坟墓的整个阶段的碳排放,这将€虑到原材料提取的所有过程对环境的影响€但此次对于ChatGPT的评估是仅专注于从制造设备到″部署运行,如下图?/p>

€€绿色部分为本次算ChatGPT生命周期碳足迹的3个主要阶段,分别为设备制造,″训练,模型部署和运行?/p>

€€那么,这3个主要阶段中,ChatGPT的碳排放究竟是多少?

€€01ChatGPT设备制€阶段的隐形碳排?/font>

€€首先,我们来看设备制造阶段碳排放?/p>

€€因目前关于ChatGPT的设备制造相关信息有限,我们以另€个大型语€″BLOOM的设备制造碳排放作为类比,来推测ChatGPT该阶段碳排放?/p>

€€据了解,BLOOM和ChatGPT的前身GPT-3的模型大小大致相同,分别?76b?75b参数,因此设备方面也具有€定相似€€?/p>

€€设备制€阶段的碳排放被称为隐含碳€这是生产产品所涉及材料和过程相关的排放,例如训练和部署″€€的计算设备€虽然这些排放的产生仅限于制造过程,但这€总量通常分布在设备使用期间,方法是将这部分排放€量除以使用时间?/p>

€€BLOOM″在含有Nvidia A100 40GB GPU的HPE Apollo 6500 Gen10 Plus服务器上进行训练。根据相关资料,与HPE Apollo类似的服″生产碳足?500kgCO2e(二氧化碳当量)。这不包括服″中使用的GPU的隐含碳排放,以论文[11]中估算,GPU的碳足迹约为150kgCO2e(二氧化碳当量)?/p>

€€以IDRIS的数据,假设?年的更换率和85%的平均使用率,用排放总量除以使用时间转化为后,服″每小时约0.056kgCO2e,GPU每小时约0.003kgCO2e?/p>

€€根据[11]中表示,BLOOM训练总时间共持续108万小时,平均使用48个计算节点上?84个GPU,我们可以估′″训练相关的服″隐含碳排放大约为7.57吨和GPU3.64吨,总计?1.2吨€?/p>

€€以此类推,根据相关资料显示,ChatGPT的训练时间大约比BLOOM?倍,单从这个角度估算,估算ChatGPT中模型训练的隐含碳排放€量约为33.6吨€?/font>

€€不过这部分隐含碳还不包括其余计算基础设施(如网络交换机€冷却设备和其他设备)的隐含排放?/p>

€€02ChatGPT″训练阶段的碳排放

€€其次,估算模型训练阶段碳排放?/p>

€€因为ChatGPT是基于GPT-3的一个升级版本,在GPT-3的模型架构基€上进行了优化并在训练时期增加了强化学习€以网上公开的数据表示,训练€个GPT-3约消?287 MWh(兆瓦时)的电,相当于排放了552吨碳?/p>

€€但由于强化学习需要额外消耗的电力,ChatGPT在模型训练阶段所产生的碳排放将大?52吨€?/font>

图说:大型语
	    <br />	  <br />	  <br />
	  һƪ<a href='/llub1hch/31.html'>췽Ұв_2</a> 
	  <br />
	  һƪû 
</p>
         <div class=