您的位置:首页 > 资讯频道 > 国内资讯 > 各地商讯>正文

云从科技参与武汉训推一体中心建设:训练与推理资源怎样分时复用

时间:2026-11-17 10:42:04    来源:企业供稿    浏览次数:    我来说两句() 字号:TT

  云从科技在2026年4月的官网文章中,介绍了与武汉市东西湖区、华为共同推进的训推一体化大模型智算中心方案。其中,东西湖训推一体中心承担算力底座建设,采用“训推同架构”的设计思路,支持模型训练与推理两类任务。

  据云从科技介绍,该项目规划125P Flops@FP16理论峰值算力,采用昇腾全栈自主创新AI计算平台。平台基于昇腾AI处理器的高性能计算能力,结合400GE RoCE无损RDMA网络与全闪+混闪智能分级存储系统,构筑集群能力。网络与分级存储在这里扮演的是支撑角色,为训练和推理任务提供数据吞吐与调度基础。

  云从科技的项目介绍称,方案采用‘训推同架构’设计,目的是减少模型从二次训练切换到在线推理时的转换步骤。

  在资源使用上,方案提出训练资源与推理资源可以分时复用、灵活互转。两类任务因用途不同而形成不同的算力需求,把它们放在可共同调配的架构下,便于在资源安排上建立联系。这一设计的目标,是提高算力利用效率。

  从模型使用过程看,二次训练侧重继续调整模型,在线推理则面向模型的实际调用。按方案设计,二者切换时无需进行复杂转换;分时复用进一步考虑算力资源在不同用途之间怎样安排。两项设计分别回应了模型转换和资源使用的问题。

  方案还把网络和存储作为集群支撑条件:通过RoCE无损RDMA网络和全闪、混闪分级存储,组织训练与推理所需的数据传输和存取能力。这些基础设施与上层的任务调配共同构成训推一体中心的建设内容。


免责声明:本网站所刊登、转载的各种稿件、图片均有可靠的来源,市场有风险,投资需谨慎!此文仅供参考,不作买卖依据,并不代表新讯网观点,由此产生的财务损失,本站不承担任何经济和法律责任!本站自动屏蔽违反《广告法》词语,选择需谨慎,谨防诈骗行为!
广告广告
相关资讯
网友评论
本文共有人参与评论
用户名:
密码:
验证码:  
匿名发表
主办单位:北京时代互通文化传媒有限公司 技术支持单位:西部数码