编者按:
2024年6月13日下午,数智创新沙龙活动第四期——“算力:驱动AI新时代!”在清华大学经济管理学院建华楼六层清华x-lab新空间 开放交流空间举办,北京英沣特能源技术有限公司合伙人韩洁女士受邀作为本次沙龙分享嘉宾,分享了新型智算中心的发展现状以及智算中心集群建设经验。

清链学堂发起人李俊明为韩洁颁发嘉宾证书
开幕式伊始,韩洁女士从时代的大背景来讲述算力的发展,她指出目前大模型的训练需要大规模算力支撑,需要多卡协同完成。通过分析英伟达H100的机器参数由浅入深的讲解了算力集群所需的参数,并通过分析GPT-3模型所需的显存和算力介绍了当下谷歌、特斯拉等大企业所需的算力集群规模。
传统数据中心与新型智算中心的区别
韩洁女士认为,传统数据中心应用的领域偏重南北向数据传输及逻辑性算力,但智算中心不同,它应用的是生产力,智算中心变成了真正的生产工具。从建设方面来讲,新型智算中心与传统数据中心有三个很大的差异。
1.机柜功率不同:传统数据中心都是3-5kW的机柜,而智算中心的机柜都是10KW以上高密机柜,机柜深度也深度增加。总体而言,智算中心单机柜的功率密度有较大提升。
2.制冷形式不同:传统数据中心IT设备冷却基本为风冷方案,而智算中心则采用风液结合,约30%的风冷和70%的液冷比例。韩洁女士指出,风液结合是未来发展制冷的趋势。
3.冗余要求不同:从传统数据中心的3-5kW的机柜到现在智算中心的10KW机柜密度,机房单位面积的电量提升明显,冗余成为了关键。

韩洁女士指出,虽然智算中心是单机柜配置一台算力服务器,但由于其高额的算力,散热需求非常大。由于智算中心能耗和投资太高,通常采用新型的磁悬浮相变空调系统,解决了传统冷冻水初期投资高,灵活性不足、可扩展性差的特点,为智算中心提供了低能耗、模块化的运营解决方案。
随后便为大家详细讲解了千卡集群冷却系统的布局,依靠大风墙和列间配置两种方法,来使小空间内获得更好的散热以保障机器安全稳定的运行,并与大家分享了千卡算力模块改造项目案例。
集群建设
AI不只是GPU,AI的基础架构是高性能算+存+网的极致组合。AI基础设施只有通过无损网络+极致性能的存储设施,以及配套的技术服务才能发挥算力的最大效能。没有专业的技术服务,高算力的GPU集群单靠硬件无法发挥出应有的价值和效率,造成极高的投入损失。
韩洁女士指出,智算中心集群搭建的关键点有四个,集群性能表现、稳定性保障、系统增值服务、成本与体系。我们要围绕系统内核、网络、存储、算力调度等维度去提升整体性能,确保资源高效利用,降低成本。要把集群和模型实时的整合在一起,实现可优化任务分配、减少通信延迟等,使集群发挥最大效能这对提升系统稳定性和工作效率意义重大。
最后,韩洁女士分享了智算项目案例与公司介绍,并与线上线下听众互动。对于听众提出的中美算力差异、废弃算力如何重新应用,细分算力租赁化是否可行等问题做出了详细的分析与解答,并为算力领域从业者如何实操提供了宝贵的建议,讲座在热烈的讨论与交流中圆满结束。
主办方清华大学经济管理学院区块链金融研究中心:
清华大学经济管理学院区块链金融研究中心(Center for Block- Chain Finance Research, School of Economics and Management, Tsinghua University,简称CBFR)成立于2018年4月,中心使命是发挥清华大学技术优势并以技术创新推动商业创新,推动交叉学科多领域数据碰撞的区块链金融研究和商业模式创新,致力于提升区块链在商业领域的普及速度,提升传统产业负责人对区块链的认知水平,为政府、企业和居民提供创新性研究成果和咨询建议。
清华x-lab:
成立于2013年,是清华大学公益性、开放性的创意、创新、创业人才发现和培养的教育平台。根植于清华大学经济管理学院,联合十五个院系共建,通过教育、培育和生态建设三个环节,建立清华大学行之有效的创意创新创业教育体系,服务于清华大学全体师生、校友,为国家输送创新创业人才,支持国家创新驱动发展战略的实现。
清链学堂:
清链学堂是清华大学资深区块链领域校友共同发起的关于区块链技术交流、科普讲座、产业投资以及资源互动平台。链接校内外区块链产业界资源,为清华校友服务。清链学堂,链接你我。共同学习,携手成长!
作者:清链学堂在线。首发于微信公众号「清链学堂在线」,原文链接。转载请注明出处。 Markdown 版本
