服务热线:

13928851055

KAIYUN科技 | 大数据与人工智能 基础软件领导者

赋能数据未来,引领AI与大数据创新

KAIYUN(中国大陆)官方网站-创造最伟大的开云

企业新闻

业界首例 中国电信完成长距跨DC分布式无损智算推理网络技术验证

作者:小编 点击: 发布时间:2025-06-25 17:48

  

业界首例 中国电信完成长距跨DC分布式无损智算推理网络技术验证(图1)

  【通信产业网讯】近日,中国电信601728)广东公司联合中国电信研究院,在智算Kaiyun开云网络领域实现重大技术突破,成功完成 Deepseek-671B 满血版长距跨数据中心(DC)分布式无损智算推理网络的技术验证验证。该成果为企业按需扩容算力及推理数据本地化存储提供了突破性的技术解决方案,标志着中国电信在智算网络技术创新上迈出关键一步。

  本次实验将推理的Prefill任务放在边缘节点执行,部署少量算力,模拟企业园区数据中心,将推理的Decode任务放在云上,部署更多的算力,云、边之间通过KV Cache进行协同,有效降低推理服务成本,提升边缘节点的推理服务体验。本次实验基于昇腾PD分离的大 EP 推理架构,对 DeepSeek 671B 满血版模型开展压力验证,系统评估了 8:1、32:1、64:1 三种带宽收敛比下的运行表现。结果显示,凭借智算无损网络低延迟、高吞吐的特性,结合 PD 分离架构设计,即使在带宽收敛比64:1、百公里级长距拉远场景下,TTFT、TPOT、Throughput三个关键指标可以达到同DC场景的99%,仍能充分满足推理服务的 SLA 要求,既保障远端算力资源稳定高效支持企业 AI 推理任务,又严格满足数据不出园区的安全要求。

  这一技术突破为企业算力部署模式带来革命性变革。依托智算无损网络,企业仅需在园区部署少量算力服务器结合云端海量的算力资源,即可实现算力资源的灵活调用,有效降低硬件投入成本,突破物理空间限制。而 PD 分离架构则通过数据与处理分离的创新设计,全方位保障数据在传输与处理过程中的安全性,为企业核心数据资Kaiyun开云产筑牢安全防线。 此次验证的圆满成功,不仅彰显了中国电信在智算网络领域的技术实力,更为 AI 技术的普及应用奠定了坚实基础。未来,中国电信将持续深化与行业伙伴的合作,加速智算网络技术创新与落地实践,全力助推企业数字化转型,为数字经济高质量发展注入强劲动能。

相关新闻
最新产品
在线客服
联系方式

热线电话

13928851055

上班时间

周一到周五

公司电话

13928851055

二维码
线