莘羽科技资讯网
首页 > 科技 > 为了AI大模型数据中心服务器泡澡成潮流中国芯片排行榜2022最新人物探索新趋势

为了AI大模型数据中心服务器泡澡成潮流中国芯片排行榜2022最新人物探索新趋势

当AI模型训练、创作和服务达到人类水平时,人们对此持有不同的态度。对于推动这项技术发展的研究人员和企业来说,一个共同关注的问题是大型AI模型所需的巨量算力如何高效利用,同时解决其伴随的能耗问题?

以ChatGPT为例,其训练过程需要庞大的计算资源。微软为了满足OpenAI的需求,开发了具有28.5万CPU核心和1万GPU核心的大型计算机。这极大地提高了芯片采购和运营成本。据国盛证券估计,GPT-3每次训练成本约为140万美元。如果将这个数字与2023年1月ChatGPT独立访客数量1300万相结合,每日电费预计在5万美元左右。

数据中心能源消耗的问题迫使云计算提供商寻找创新方案,如通过服务器“泡澡”(液冷散热)方式提升能源效率。英特尔市场营销集团副总裁兼中国区数据中心销售总经理庄秉翰表示:“我认为ChatGPT会加速液冷技术的发展,现在液冷已经成为一个趋势。”

然而,这种技术并非新兴,但由于国内缺乏统一标准,使得系统设计成本高昂,对最终用户而言价格较贵。此外应用范围也是限制因素之一,因为不是所有应用都需要如此高性能。

但随着算力的快速增长,以及未来可能出现更高功率设备,比如CPU到270W、300W甚至350W,GPU可能达到400W或500W,这些都促使客户转向更加节能且先进的液冷数据中心解决方案。

新华三集团计算存储产品线副总裁刘宏程认为:“包括ChatGPT在内的大规模算力发展,是推动客户从传统风冷转向更节能液冷技术的一个重要原因。”他指出,当用户需求激增→标准建立→规模效应体现→整体成本自然下降形成循环之后,可以加速产业从传统数据中心转向新型节能数据中心。

政府也发布了一系列政策指导行业发展,其中包括三个重点方向:规划、能效利用率等。工信部等六部门发布《工业能效提升行动计划》中规定,到2025年新建大型超大型数据中心PUE优于1.3,而PUE(Power Usage Effectiveness)用于衡量IDC能源效率,是用IDC总能耗除以IT设备能耗得来。

为了破解液冷技术的大规模应用挑战,从处理器层级开始探索绿色低碳策略,如今年一月发布的英特尔至强可扩展处理器,在深层环节使用90%可再生电力。在服务器层面,则涉及到技术挑战与成本问题。而标准化则是关键,以英特尔携手20余位生态伙伴共同编纂并于今年三月十五日正式发布的cold板liquid cold团体标准为例,它旨在通过标准化降低产业与技术门槛,加快浸没式liquid cold technology普及,让所有用户能够更普惠地使用这一最新技术。

目前国内几个头部行业已进入到了基于liquid coolingscale 的状态,但仍需强调的是,不是所有data center 都一定要采用这种方法,有时候风cooling也完全可以满足要求。而对于存量data center 市场,也有提升能源efficiency 的其他方式,如升级green data center 技术框架版本2.0,为future 提供更多可能性。

标签:

猜你喜欢

我的外星科技系统 精密工艺与创新...
精密工艺与创新技术:仪器仪表制造工的卓越之旅 精密制造的艺术 仪器仪表制造工在追求零缺陷的同时,掌握了各种精密加工技术,如电火花切割、激光切割等,以确保每...
福晶科技 精密制造的守护...
精密制造的守护者:仪器仪表制造工的专业世界 仪器仪表制造工的工作环境与设备 在一个光线明亮、洁净整齐的工作间里,仪器仪表制造工们聚焦于他们的心血之作——精...
科技产品网站 小雏菊花语中的...
小雏菊的来历 小雏菊,又称为双子草,原产于欧洲,是一种一年生草本植物。它的花朵呈黄色或白色,有时带有淡紫色的条纹,每朵花通常由5片瓣组成,外观看起来像两颗...
科技让生活更美好 满天星的花语夜...
星辰之恋 在遥远的古代,传说中有一个美丽的女子,她的心灵与夜空中的繁星如出一辙。她的名字叫做“满天星”,她对每颗星辰都充满了深情,每个月亮下都能看见她独自...

强力推荐