为了AI大模型数据中心服务器泡澡成潮流国内50强芯片公司排名2021让人物期待新篇章
当AI模型训练、创作和服务达到人类水平时，人们对此持有不同的态度。对于推动这项技术发展的研究人员和企业来说，一个共同关注的问题是大型AI模型所需的巨量算力如何高效利用，同时解决其极高能耗问题？
以全球火爆的OpenAI公司ChatGPT为例，其训练过程需要庞大的计算资源。微软为了满足这一需求，开发了超级计算机配备28.5万个CPU核心和1万个GPU。这类设备不仅昂贵，而且运营成本也很高。据国盛证券报告估计，每次训练ChatGPT的成本可达140万美元。如果按2023年1月的独立访客数1300万计算，每日电费将接近5万美元。
数据中心能耗问题已成为云计算提供商面临的一个挑战。为了应对这一问题，无论是微软Azure还是阿里云，都已经开始采用“泡澡”方式来散热服务器，以提升IDC能源效率。
市场营销集团副总裁兼中国区数据中心销售总经理兼中国区运营商销售总经理庄秉翰在2023英特尔可持续发展高峰论坛上表示：“我认为ChatGPT会加速液冷技术的大规模应用，现在液冷几乎已经成了一种潮流。”
服务器“泡澡”是一种比喻，实际上代表的是服务器使用液冷技术中的浸没式散热方式，这一技术包括冷板、喷淋和浸没式，并非新出现，但业界普遍使用率并不高。
英国华为董事长宁畅认为，“国内许多冷板液冷设计缺乏一个规范的验证标准，使得每个厂家设计都有差异，这使系统设计成本、验证成本比较高，因此对于最终用户而言这个方案就比较贵。”英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立进一步指出，“主要原因是应用也是液冷技术没有大规模部署的一部分。”
然而随着算力的快速发展，以及像ChatGPT这样的应用带来的巨大算力需求，大多数客户正从风冷转向更节能且先进的液冷技术。此外，一些新的CPU功耗可能达到270W或300W，而某些GPU现在就到了400W或500W，所以必须考虑到更有效率的散热解决方案，如液冷。
新华三集团计算存储产品线副总裁刘宏程认为，“包括ChatGPT在内的大型AI模型带来了大量算力需求，这促使更多客户迅速考量更新数据中心整体设计时转向更节能、更先进的liquid-cooled data center解决方案。”他还提到，当用户需求激增→标准建立→规模效应体现→整体成本自然下降形成循环后，可以加速推动产业从传统数据中心转向新型节能数据中心。
政府指导单位也发布了一系列政策指导行业发展，比如规划、能源效率以及利用率。在《工业能效提升行动计划》中明确规定，要到2025年新建大型、超大型数据中心PUE优于1.3（Power Usage Effectiveness，即用电能力效果）。不同类型的人工智能处理器所采用的散热技术直接影响PUE，有时候采用风冷可以达到PUE 1.4-1.5，而采用liquid cooling则可以做到近1.1。
要破解这些挑战，从三个方面进行探索：第一部分处理器产品；第二部分服务器整体设计；第三部分软件与工具。通过这些标准化方法，可以增强整个市场产业化进程，加快产业化意味着降低成本，让基于liquid cooling 的data center更加普及。但并不是所有data center都一定要使用liquid cooling，只有未来新的至强处理器升级到拥有100个能效核时，它才能在wind tunnel上仍然适用。而对于存量data center市场，也有一些提升能源效率的手段可供选择。
