液冷越来越受到产业界的关注,成为传统数据中心改造和新建数据中心的主要选择。不仅仅是因为液冷能够更好地散热,还有液冷技术可以大幅降低数据中心的“噪音”以及在液冷技术下,服务器超频成为一种“新常态”。

那么液冷技术方案的数据中心产业链上下游有哪些玩家,发展状况如何呢?本文将聚焦液冷数据中心液冷机柜、冷却液、冷却系统、供配电等液冷技术基础设施环节及产业中游、应用方的主要参与者,全面梳理、深入分析各细分领域的产业链构成、市场现状、产业竞合情况、热点技术产品以及未来发展趋势,力图多维度立体化描绘液冷数据中心产业全景图。

1、液冷技术产业全景图

液冷数据中心产业链条长、细分领域宽,参与玩家多,属于资本密集型产业。

目前液冷技术处于快速发展阶段,如果相关参与玩家在融资能力或客户获取方面具备优势,则能够建立一定的壁垒。

各细分领域的参与企业都在依据自身的核心优势逐步向相关领域渗透,构建自身的生态圈。按照从基础设施到应用划分**,液冷数据中心产业可以划分为液冷基础设施、产业中游和行业应用三大细分领域**,形成如下产业全景图。

液冷基础设施领域是为液冷数据中心建设提供所必需的基础设备和设施,分为液冷机柜、冷却液、冷却系统、电力系统、网络系统等细分领域,以及数据中心基础设施管理系统细分领域。上述细分领域主要提供设备、软件系统和服务器运行的冷媒。除此之外,基础设施领域还包括土建施工方、网络运营商以及电力供应商。土建施工方负责建筑物及上述设备设施的施工工作,网络运营商提供基础的网络接入,电力供应商提供设备运行的电力供应。这些领域为数据中心提供相对更加基础的外围环境,本文不再赘述。

产业中游包括服务器、数据中心托管方和一些新进入者。服务器厂商研发、设计、生产适用于液冷环境下的服务器,亦或直接生产冷板式液冷服务器;数据中心托管方建设和运营数据中心,依托自身优势,整合基础设施领域资源,为应用方提供服务器托管服务。随着数据中心的快速发展,液冷数据中心领域有一些新的厂商进入,后面做更为详细的介绍。

数据中心应用方主要分为云计算和云算力、互联网和区块链以及其他用户三大细分领域。他们是数据中心的主要使用者。云计算和云算力厂商主要通过虚拟化算力为客户提供灵活的算力分配和调度而获得收入,互联网和区块链一些大厂往往直接同数据中心运营商一起建设数据中心,其他用户一般直接托管或从数据中心运营商租用服务器资源或算力资源。

2、液冷基础设施

液冷数据中心基础设施领域是整个产业的设备、设施提供端,决定着液冷产业的创新与发展速度。它们掌握液冷的核心技术,是液冷数据中心产业的基础环节,竞争主体丰富、多元。

1)液冷机柜(1)行业现状

液冷机柜按照冷板式液冷和浸没式液冷分为两大阵营:冷板式液冷机柜是在传统机柜基础上加上冷媒传导管,浸没式液冷机柜采用服务器置放腔体(一般称为Tank)加冷媒传导系统,它们都需要再接入冷却系统或换热系统。

液冷机柜重点要解决高效的热传导问题,以及在热交换过程中的防漏液、防渗液、防腐蚀等问题。

液冷机柜几大玩家分别从自身优势出发,构建竞争壁垒。中科曙光在数据中心液冷领域探索较早,机柜方面主要面向传统服务器,或者定制服务器;英维克和网宿科技从传统数据中心机房节能散热领域切入,为传统数据中心液冷改造提供一体化解决方案;兰洋科技从自研冷却液开发出适用于普通PC的液冷系统;格劳瑞依靠自身多年从事专用服务器节能散热结合多年的暖通经验提供专用服务器液冷机柜及一体化液冷解决方案;深暖芯和中暖世华从小型浸没式液冷机柜切入,提供服务于专用服务器的液冷机柜。

还有一些小的厂商模仿上述各机构产品自产自用,不具备规模优势,这里不再赘述。

(2)发展趋势

液冷机柜的发展趋势可以概括为两个方面:

一方面从机位规模来看,向着“大的越大,小的越小”发展。“大的越大”指的是液冷机柜往集装箱模式发展,机位可以做到200到400个,为大规模数据中心服务,在效率和效果两个方面都有较大的优势。格劳瑞研发生产的液冷柜属于典型代表。一套集装箱拥有近200个机位,电力负荷可以到640到1280千瓦,成为业内众多大规模数据中心的选择。“小的越小”指的是液冷柜只置放六台、两台,甚至只供一台服务器使用,主要面向个人使用。特点是灵活方便,甚至家里、办公室都可以使用。

另一方面从集成度来看,向着一体化的趋势发展。传统厂商只提供液冷机柜,其他子系统需要数据中心建设方或集成商单独采购。不同于传统厂商,液冷机柜厂商研发的产品正朝着一体化发展,产品设计为模块化、可拼装的各个子系统。在效率、可靠性、安全性及可持续性方面得到了显著改善。据王承顺介绍,格劳瑞研发的液冷机柜就包含了机柜、冷却液、换热系统和冷却系统,产品到了客户机房,直接拼装,拼装完后直接使用,大大缩短了数据中心的施工周期。

2)冷却液(1)行业现状冷板式液冷冷却液不直接与服务器发热部件接触,相对简单。一般采用水加入乙二醇防冻剂防止系统结冰涨管即可。

浸没式液冷和喷淋式液冷冷却液直接与服务器发热部件接触,必须确保冷却液的绝缘性,同时具备良好的热物理性能、化学及热稳定性、无腐蚀且环境友好。在业内,目前直接接触式液冷常用的冷却液包括电子氟化液、矿物油和去离子水。

关于液冷技术的分类详细参见《液冷技术的方案详解与成本对比分析》。

相变浸没式液冷冷却液需要合适的沸点、较窄的沸程范围。硅酸酯类、芳香族物质、有机硅、脂肪族化合物及氟碳化合物都被尝试应用于相变浸没式液冷。由于氟碳类化合物具有更优的综合性能,是目前常见的冷却液。

单相液冷冷却液需要高沸点。在实践中,除了氟化液外,矿物油越来越多地被用作浸没式液冷冷却液。去离子水本身是水提纯后的产物,对于密闭性要求较高,实践中应用偏少。

(2)发展趋势

随着液冷技术的广泛应用,冷却液的需求量在大幅上升。氟化液和矿物油呈现出齐头并进的发展趋势。氟化液因其具有合适的介电常数、比热容、稳定性、安全性及良好的冷却效果,虽然价格较高,但依然被很多传统数据中心用作液冷冷却液。矿物油特别是变压器油虽然有一定的黏度致使导热效果略微下降,闪点不是特别高(大部分闪点在143摄氏度,有些闪点能够达到193摄氏度),但因其价格低廉(价格只是氟化液的三十分之一到十分之一),目前广泛应用于专用服务器的液冷中。

另一方面,氟化液随着国产化速度加快,相信不久的未来,随着应用规模的扩大,氟化液的价格也会有一定的下浮空间。**矿物油目前也在持续改进。**王承顺称,格劳瑞联合清华大学和中国石油正在研发适用于专用服务器的冷却液,使得黏度降低、闪点提高,在导热性、安全性上持续改进。

当然,无论是用于冷板式还是浸没式液冷的冷却液,除了关注热物性参数外,还应考虑环保参数,根据应用地域的相关政策依法依规选用。

3)冷却系统(1)冷却方式分类

制冷系统用来维持服务器正常运行的环境条件,为数据中心除服务器设备外第二大耗能设施,目前传统数据中心的主要制冷方式仍然是空气冷却。格力、美的、海尔生产的空调系统仍在传统数据中心大面积应用。

液冷数据中心的冷却系统一般分为三类:冷却塔冷却、生活热水及供暖等二次利用、热水直排冷却。

在三类冷却方式中,生活热水及供暖等热量回收二次利用能够创造额外的价值,如果有条件,一般都会用这种方式。但也要考虑到热水的产出和消纳,能否匹配的上。如果不能很好地匹配,仍需要借助冷却塔散热。

热水直排要求冷水水源源源不断,在实践中,比如夏季梅雨季节的云贵川适合采用这种方式;但需要考虑的是,需要对水源进行净化,不能影响到换热系统。另一个实践案例是海水净化,海水本身的温度30度左右,需要净化的海水要求达到50度左右,这就恰好符合这个特点。相当于热量的回收利用。

上述两种方式对应用场景有比较高的要求,但实践中,往往难以找到这么合适的匹配需求。所以,大部分液冷数据中心冷却系统都采用冷却塔的方式。

(2)冷却塔

冷却塔是通过水循环,将液冷数据中心的热量散到大气中的装置。冷却塔利用水与空气流动接触后进行冷热交换产生蒸汽,蒸汽挥发带走热量达到蒸发散热、对流换热和辐射传热等原理来制冷,以保证系统正常运行,装置类似塔状,所以称为冷却塔。

按照通风方式分为自然通风冷却塔、机械通风冷却塔以及混合通风冷却塔;

按照水和空气的接触方式分为湿式冷却塔、干式冷却塔和干湿式冷却塔;

按照水和空气是否直接接触分为开式冷却塔和闭式冷却塔(也称封闭式冷却塔、密闭式冷却塔);

按照形状分为圆形冷却塔和方形冷却塔。

另外还有按照应用领域分为工业型冷却塔和空调型冷却塔,按噪音级别分为普通型冷却塔、低噪型冷却塔等等。

在实践中,我们通过数据中心冷却液是否进入冷却塔直接降温来划分。冷却液不经过板式换热器直接进入冷却塔散热,需要密闭式的系统配合,这种方式我们称为闭式冷却塔;冷却液通过板式换热器将高温液体换成高温的水再进入冷却塔散热称为开式冷却塔。(3)发展趋势液冷数据中心冷却塔正在朝着高散热量、体积小、低噪音、高兼容性、节能环保的方向发展。

传统工业领域的冷却塔是相对成熟的产品,但应用于液冷数据中心中仍有一些问题需要解决。据格劳瑞王承顺介绍,传统冷却塔个头大,噪音大,对于液冷数据中心兼容性和匹配性问题很难解决。经过几年的探索,格劳瑞自主研发的开式冷却塔和闭式冷却塔能够很好地满足液冷数据中心领域的高散热量、体积小和低噪音的需求,特别是对于液冷数据中心的冷却液,有很好的兼容性,实现了耐油耐高温的要求。

另一方面,随着新材料新工艺的发展,以及液冷数据中心的大规模应用,我国冷却塔在节能化、环保性也将有大幅的发展空间。

4)电力系统(1)行业现状电力系统包含高压配电柜、低压配电柜和不间断电源(UPS)三大子系统,在数据中心起着电能通断控制和保护的作用。高压配电柜主要是10KV及以上电压等级,接收来自电网的电能;低压配电柜主要是400V电压等级,接收来自高压配电柜的电能,具备电能转换、分配、控制、保护和监测功能;不间断电源通过输入电网和输出负载的监控无缝切换供电电源,保障服务器设备的安全、稳定运行。

(2)发展趋势我国已经成为世界上最大的电力市场和最大输配电设备生产国。“十四五”是我国特高压输电和智能化电网的全面建设时期,国内电力工业和经济建设将持续跨越式发展,高压配电行业仍将处于持续、稳定、快速发展期,行业总体需求将进一步增加。低压配电领域受益于数据中心行业的快速发展也得到了较快的发展。

不间断电源领域的HVDC技术逐渐成熟,发展逐步规范化,智能UPS和HVDC将逐渐取代传统的UPS。相对传统UPS系统,智能UPS和HVDC在供电可靠性、供电安全、可扩展性、运行控制效率、谐波污染等方面具有明显的优势,将是不间断电源的发展趋势。

预制式供配电模组在液冷数据中心领域有着快速发展的趋势。预制式供配电模组是将传统供配电系统中分隔的高低压配电系统、变压器、UPS和智能电力监控管理系统按照整体解决方案设计,以模组化、预制化和智能化为设计方向,整体融合成一体化供配电系统解决方案。系统采用工厂预制的铜排连接,标准化的一次二次接口,实现工程产品化,设备与现场解耦,内置电力监控管理系统,对系统中的高低压配电系统、UPS、变压器等设备进行统一集中式监控管理,从而实现数据中心的快速部署与智能化监控管理。整套系统大大简化了供电链路,具备统一管理、高可靠性、节省空间、经济美观等特点,为用户提供理想和完善的电源解决方案,为数据中心提供安全可靠连续的电源保障。

5)网络系统(1)网络系统简介交换机是搭建数据中心网络系统架构的骨骼,具备大缓存、高容量、虚拟化等特点。我国已开始启动800G的标准化和测试研究。2019年,中国信通院与华为等启动DCCNG项目,研究800G的关键技术与应用,并将部分成果应用到IEEE的国际标准中;2021年,中国信通院联合中国移动、中国电信、华为等启动800G测试研究项目。

**(2)发展趋势数据中心网络系统在向着高性能、智能化、虚拟化、可编程方向发展。a. 高性能。**400G交换机有望在未来五年实现规模化应用。全球交换机头部企业2018年陆续开始推出400G交换机产品,旨在面向高性能计算应用场景。在网络拓扑、路由协议和传送协议等设计上都要满足高性能需求。

**b. 智能化。**智能技术对数据中心网络的路由选择算法、拥塞控制算法、故障预测和恢复等都能带来较大的帮助,从而实现“自动驾驶网络”。

**c. 虚拟化。**与计算虚拟化和存储虚拟化相比,网络虚拟化技术的发展一直较为缓慢。但在多用户的数据中心,尤其是支持多租户的云数据中心,网络虚拟化是非常必要的。数据中心将虚拟网络的带宽请求抽象为软管模型或流量矩阵模型,然后在物理网络上为虚拟网络分配带宽。得到带宽保障的虚拟网络和自建一个物理网络的使用体验是一样的。数据中心网络管理者还可以通过灵活的带宽分配算法,在给定物理网络拓扑的前提下,支持尽可能多的虚拟网络数量。

d. 可编程性。由于数据中心网络往往为某个公司或机构独有,数据中心管理者会根据应用的独特需求,对网络设备的功能进行定制,比如自定义路由转发规则、自定义安全策略、自定义隧道封装格式等。在这种情况下,传统的路由器/交换机中确定性的转发规则无法满足数据中心网络的需求,而需要可编程的数据中心网络设备。

6)基础设施管理系统(1)管理系统简介液冷数据中心基础设施管理指采用工具监控、管理和控制数据中心所有设备的使用情况和能耗水平,包括液冷机柜的冷却液流速、流量和温度,冷却塔进出口温度、水的流速、流量,换热系统以及服务器、网络设备、电力系统、安防等。管理系统整合后集中管理,形成融合质变,放大一体化效能。从管理角度看,基础设施管理作为一种辅助运维管理的工具和手段,利用监控信息驱动管理和控制。

(2)发展趋势物联网和数字技术将推动基础设施管理系统向智能化发展,安全、高效、精准是未来发展的重点。液冷数据中心正在快速发展,不同于传统数据中心,服务器或多或少与冷却液会有接触。如何有效保障系统安全、稳定地运行是液冷数据中心当下需要重点关注的问题。包括漏液、渗液风险,起火风险的管理和控制,高温的及时报警和控制等等。

大数据、人工智能、区块链等数字技术已逐渐成熟,建设“智能化液冷数据中心”已经成为新型数据中心的发展趋势,更低的运维成本和更高效的管理是当下液冷数据中心需要重点考虑的问题。

3、液冷技术产业中游

液冷数据中心产业中游处于产业链的中间环节,一方面整合基础设施领域资源,另一方面为应用方提供可直接使用的液冷服务器设备或基础设施配套或液冷服务器设备托管运营服务。分服务器、数据中心托管商和新进入者三个细分领域介绍。

1)服务器(1)服务器简介服务器本质上是一种高性能计算机,在液冷数据中心硬件成本中占比70%-80%,是液冷技术产业中游的重要组成部分。服务器一般有CPU、GPU、FPGA、ASIC、PCB主板、DRAM、SSD、BMC、电源、内存等部分组成。其中,CPU、GPU、FPGA、ASIC决定了服务器的算力。

华为、浪潮、中科曙光、比特大陆都推出了适用于液冷技术的服务器,就应用规模来说,比特大陆的水冷专用服务器应用最为广泛。比特大陆的传统服务器在油冷领域适应性最好。

(2)发展趋势各大服务器厂商广泛布局液冷领域,不断推出冷板式液冷服务器和适用于油冷领域的产品。

从供给看,华为、中科曙光、比特大陆、宝德计算机等企业都在陆续研制、生产冷板式液冷服务器和适用于浸没式液冷的服务器产品。随着服务器芯片集成化程度越来越高,传统的风冷已越来越难以满足芯片的散热需求,而液冷凭借高效的散热能力,正在被各大服务器厂商接受和应用。从需求看,液冷方案下,服务器在节能降耗、静音以及自主超频更具优势,更能满足用户的诉求。

2)数据中心托管商(1)行业现状

数据中心托管商(下称托管商)往往在基础网络运营商、电力领域具有较强的资源优势,同时自身运营能力强大。托管商通过模块化、标准化机房设计缩短建设周期,可以更快速地满足企业需求。凭借自身强大的运维能力,托管商还能降低机房能耗,保证机房稳定运行,整合电力、网络资源,为客户提供更多选择。

现在越来越多的托管商除了做传统的DNS、智能灾备、CDN等以外,还积极与下游的云计算等平台合作打造云网生态系统,为用户或客户提供一站式的云服务。

(2)发展趋势液冷数据中心行业正处于高速发展阶段,在一线商圈土地、电力资源紧缺、政策缩紧的大环境下,提前布局核心区域,优先获取资源的企业拥有更大的竞争力。我国头部托管商积极围绕核心城市展开布局,在核心区域自建大规模数据中心,拥有十分可观的机柜存量及储备机柜规模,凭借其在一线城市内积累的强大的客户资源、充足的项目储备,逐渐筑起行业壁垒。

3)新进入者(1)业务现状新进入者纷纷涌入数据中心领域,钢铁企业、房地产企业、新能源企业为主要来源。在5G高速发展的背景下,数据中心建设规模不断扩大,然而数据中心受限于土地、电力、网络等资源,导致数据中心市场供给增速跟不上需求增长。近年来我国数据流量更是呈现爆发式增长,导致数据中心供需缺口远大于发达国家;就网民规模而言,我国互联网用户数量居全球首位,然而我国IDC储备量与美国尚存差距。在供需失衡叠加5G高速发展的背景下,恰逢液冷技术的快速发展,我国液冷数据中心行业迎来黄金发展期。

(2)发展趋势

在政策、需求、技术革新三重因素驱动下,将会有更多新进入者加入液冷数据中心领域。“十四五”规划纲要明确提出,加快构建全国一体化大数据中心体系,强化算力统筹与智能调度,建设若干国家枢纽节点和数据中心集群。2022年2月,国家发展改革委、中央网信办、工业和信息化部、国家能源局联合印发文件,同意在京津冀、长三角、粤港澳大湾区、成渝、内蒙古、贵州、甘肃、宁夏启动建设国家算力枢纽节点,并规划了张家口集群等10个国家数据中心集群。至此,全国一体化大数据中心体系完成总体布局设计,“东数西算”工程正式全面启动。数字经济时代,全社会数据总量呈爆发式增长,需要对数量庞大、来源分散、格式多样的数量进行采集、存储和关联分析,数据计算、传输和应用需求也大幅提升。政策和需求的刺激,必然会促使更多的传统行业进行数字化转型,一些有条件有资源优势的新进入者纷纷涌入液冷数据中心领域中。

4、液冷技术应用方1)云计算与云算力平台(1)业务现状云计算已经成为数据中心应用方第一大需求来源。数据中心云计算用户主要分为公有云、私有云和独立第三方云计算厂商。公有云厂商代表有来自互联网的阿里云、来自运营商的天翼云以及来自服务器厂商的浪潮云。阿里云对外助力企业数字化转型,对内承载庞大的业务体系IT资源需求,对数据中心的需求量庞大且多元。其他各家也都基于自身的核心优势构建生态体系。

(2)发展趋势2021年一季度我国的云基础设施服务市场支出猛增55%,达到60亿美元。其中,我国四大云服务提供商阿里云、腾讯云、华为云和百度智能云四家企业共占总支出的80%以上。阿里重资产投入云计算产业,已拥有5个超级数据中心。腾讯5000亿投资云计算产业。

另一方面,近几年云算力平台发展迅猛,比特小鹿和比特富富经过两三年的发展,都走在了上市的路上。

2)互联网与区块链(1)业务现状

互联网经过20多年的发展,几乎渗透到我们能触及到的所有领域,但渗透程度依然天差地别。这就带来不同行业、不同规模、不同类型的企业对数据中心的需求差异很大。大型互联网企业需求规模大,往往偏好自建数据中心或者定制数据中心模式,而绝大部分中小型企业由于互联网的业务不够多、规模不够大,多采用服务器租赁模式或者算力租赁模式。

区块链近几年得到了快速发展,但全球范围内发展不均衡。鉴于区块链去中心化的特点,各个国家对区块链发展的态度不一,致使区块链技术在不同国家发展进度差异很大。数据中心作为区块链基础设施在区块链领域的应用也就带来了不同的发展状况。特别是2021年我国禁止挖矿以后,在区块链领域的算力大幅减少,逐渐转移到对此领域友好的美国等地。

(2)发展趋势

随着互联网和区块链的快速发展,人民对其需求也在不断提升。企业要想在激烈的竞争中保持原有的市场地位,就必须不断进行创新,提升自己的核心竞争力。所以,我们能够看到互联网和区块链相关企业在数据中心领域的布局有加速发展的趋势。

3)其他用户(1)业务现状金融、政府和电力机构是数据中心的三大用户,需求仅次于云计算和互联网。近些年金融机构业务数据呈爆炸式增长,出于安全与稳定的考虑促使其对数据中心需求居高不下;数字政府和智慧城市等建设是政府成为数据中心重要用户的主要原因;电力行业属于民生领域数字化程度最高的行业之一,数字化转型催生其对数据中心业务等庞大需求。

(2)发展趋势

随着逆全球化的发展,国家对金融数据的把控更加严格,特别是金融数据安全、反洗钱领域的投入,金融机构对数据中心的需求一直保持高速的增长势头;

政府方面,近些年国家一直在提倡新基建建设,数字政府市场不断扩大,加速了政府部门对数据中心的需求。2021年初,国务院提出未来需加快建设数字政府,将数字技术广泛应用于政府管理服务,不断提高决策科学性和服务效率,预计到2025年数字政府市场规模还将快速增长;

电力行业,随着信息技术、清洁能源的发展以及电力数字化改革进程的加快,开展综合能源服务已成为提升能源效率、降低用能成本、促进竞争与合作的重要发展方向。电力行业的新应用新业务促使对数据中心的需求进一步扩大。

5、小结

本文从基础设施、产业中游和应用方的视角简单勾勒出液冷数据中心产业全景图,旨在为从业者提供一个较为全局的参考,为新进入者提供一些帮助。从而让更多机构了解液冷、实践液冷,为液冷数据中心的发展添砖加瓦。

液冷数据中心目前仍处于发展早期阶段,虽然在部分领域有了一定规模的应用,但是相比存量的数据中心,仍不及十分之一,依然有大幅的增长空间。期待液冷技术早日快速更大范围的应用,

目前正赶上全球能源紧缺时期,液冷技术凭借优异的散热优势为节能减排贡献一份力量。一方面为数据中心上下游参与企业提升效率、节约成本,另一方面助力碳达峰、碳中和的早日实现。

参考文献:

1、中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要

2、液冷技术的方案详解与成本对比分析

3、全国一体化大数据中心协同创新体系算力枢纽实施方案

4、新型数据中心发展三年行动计划(2021-2023年)

5、数据中心应用发展指引(2020)

6、数据中心产业图谱研究报告

历史文章:

1、水冷和油冷到底该如何选择?

2、液冷元年|液冷遇上元宇宙,促进液冷快速发展

3、液冷技术的方案详解与成本对比分析

4、全球高温,电力吃紧。是时候关注新技术了!


作者:格劳瑞。首发于微信公众号「清链学堂在线」,原文链接。转载请注明出处。 Markdown 版本