AIGC的爆发除了带来算力上的挑战，对网络的要求也达到了前所未有的高度。
6月26日，腾讯云首次对外完整披露自研星脉高性能计算网络：
星脉网络具备业界最高的3.2T通信带宽，能提升40%的GPU利用率，节省30%~60%的模型训练成本，为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC，可支持10万卡的超大计算规模。
【资料图】
腾讯云副总裁王亚晨表示：“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务，将助力算力瓶颈的突破，进一步释放AI潜能，全面提升企业大模型的训练效率，在云上加速大模型技术的迭代升级和落地应用。”
AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练，大量服务器通过高速网络组成算力集群，互联互通，共同完成训练任务。
大集群不等于大算力，相反，GPU集群越大，产生的额外通信损耗越多。大带宽、高利用率、信息无损，是AI大模型时代网络面临的核心挑战。
千亿、万亿参数规模的大模型，训练过程中通信占比最大可达50%，传统低速网络的带宽远远无法支撑。同时，传统网络协议容易导致网络拥塞、高延时和丢包，而仅0.1%的网络丢包就可能导致50%的算力损失，最终造成算力资源的严重浪费。
基于全面自研能力，腾讯云在交换机、通信协议、通信库以及运营系统等方面，进行了软硬一体的升级和创新，率先推出业界领先的大模型专属高性能网络——星脉网络。
在硬件方面，星脉网络基于腾讯的网络研发平台，采用全自研设备构建互联底座，实现自动化部署和配置。
在软件方面，腾讯云自研的TiTa网络协议，采用先进的拥塞控制和管理技术，能够实时监测并调整网络拥塞，满足大量服务器节点之间的通信需求，确保数据交换流畅、延时低，实现高负载下的零丢包，使集群通信效率达90%以上。
此外，腾讯云还为星脉网络设计了高性能集合通信库TCCL，融入定制化解决方案，使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道，可以避免因网络问题导致的训练中断等问题，让通信时延降低40%。
网络的可用性，也决定了整个集群的计算稳定性。为确保星脉网络的高可用，腾讯云自研了端到端的全栈网络运营系统，通过端网立体化监控与智能定位系统，将端网问题自动定界分析，让整体故障的排查时间由天级降低至分钟级。同时，大模型训练系统的整体部署时间从19天缩减至4.5天，保证基础配置100%准确。
星脉网络全方位的升级背后，是腾讯数据中心网络历经三代技术演进的成果。
在腾讯发展初期，数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成，网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备，搭建标准化数据中心网络，支撑QQ在线人数增长超过1亿，服务器规模增长超10万。
随着大数据和云计算的兴起，服务器之间的东西向流量逐渐增多，云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构，腾讯云构建了全自研网络设备与管理系统，打造超大规模数据中心网络，服务器规模近200万台。
如今随着AI大模型的出现，腾讯云在国内率先推出高性能计算网络，采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合AI训练流量特征的网络架构，并配合自研软硬件设施，实现整套系统的自主可控，满足超强算力对网络性能的新需求。
日前，腾讯云发布的新一代HCC高性能计算集群，正是基于星脉高性能网络打造，可以实现3.2T超高互联带宽，算力性能较前代提升3倍，为AI大模型训练构筑可靠的高性能网络底座。
未来，腾讯云还将持续投入基础技术的研发，为各行各业的数智化转型提供有力的技术支撑。
— 完 —
量子位 QbitAI · 头条号签约
标签：
AIGC的爆发除了带来算力上的挑战，对网络的要求也达到了前所未有的高度
1、所需工具：PS软件通过PS对一寸照片进行排版并打印步骤如下：注意事
河北唐山某电影院内，一名男子在电影《消失的她》放映结束后，手捧大束
随着夏日气息渐浓，近日，北京环球度假区推出首个夏季体验“环球酷爽夏
截止目前2023年调整退休人员基本养老金的方案已经公布，但是2023年养老
特许经营15年！山东临沂市平邑县城区环卫市场化作业项目采购意向公布！
2023年5月，全国发行新增债券3019亿元，其中一般债券264亿元、专项债券
为进一步扩大禁毒宣传覆盖面，提升群众禁毒意识，在第36个国际禁毒日，
一、题文试管在燃烧时导致试管破裂的原因至少三种二、解答1没有预热（
“特价商品，概不退换”“本卡最终解释权归本公司所有”“卡内金额过期
1、《炮兵进行曲》是一首军乐曲，是中国人民解放军炮兵的标识性音乐，
近日，三星公司在韩国推出了以口袋妖怪为主题的无线耳机，包括口袋妖怪
今天的大雨，如约而至。小伙伴们，也没忘记抓拍。 截至28日10时至14时
突发！6月28日，常州一工厂突发爆炸，现场黑烟滚滚，民警和消防员已第
自己煮火锅吃，卫生实惠！味道也可以按自己的喜好！可以去超市买包火锅
6月27日上午，2023中德（西安）经贸合作交流会在西安高新区正式开幕。
中国航空新闻网讯：据飞行国际6月27日报道，俄罗斯联邦航空监管机构已
近日，吉林省公安厅高速公路公安局吉林分局巡逻三大队民警在珲乌高速公
波罗斯是目前和埼玉战斗的角色中最强的一个，毕竟他是能将埼玉直接从地
中新网长春6月28日电(记者郭佳)长光卫星技术股份有限公司(下称“长光卫
竞技方面，在京多安到来后，巴萨评估了球队的阵容情况，因为在布斯克茨
阳曲县公交车免费乘坐为方便阳曲县群众“五月十三”庙会期间前往会场赶
1、世界十大著名火山：1 梅扎马火山(Mt Mazama)美国俄勒冈州2 埃特纳火
眼下正值桃子成熟上市时节，焦作市温县北冷乡许北张村的桃子喜获丰收，
让“救命神器”触手可及南岗区16处公共场所配置自动体外除颤器,在南岗
一、什么是“脚尾饭”？脚尾饭为往生者脚跟边之菜肴，故有脚尾饭之称。
莱斯信息上市首日开盘涨38%，实控人既是客户也是供应商。
肾虚是一种常见的中医概念，它指的是肾脏功能的弱化或衰竭。肾脏在中医
从均衡角度看2023良心百万医疗险有：太平洋健康蓝医保、好医保20年版、
随着互联网金融的快速发展，越来越多的人开始选择线上借贷平台来解决资
Copyright © 2015-2022 西南服装网版权所有 备案号：皖ICP备2022009963号-8 联系邮箱：39 60 29 14 2@qq.com
韩“天安”号护卫舰下水 
