您的位置:首页 > 资讯频道 > 国际商业 > 各地要闻>正文

拼算算PinSuanSuan:AI算力租赁时势造英雄

时间:2024-05-31 14:42:35    来源:企业供稿    浏览次数:    我来说两句() 字号:TT

拼算算(PinSuanSuan)是一家快速发展全球领先的AI算力资产交易托管,数字资产挖矿服务商交易平台。拼算算(PinSuanSuan)的核心宗旨是:算力无处不在,推进算力革命。

什么叫做算力租赁?

算力租赁是一种通过租用他人的计算能力来完成特定任务的方式。在计算机领域,算力通常指的是计算机的处理能力,特别是在进行大规模数据处理、运行复杂算法或进行加密货币挖矿等方面的能力。通过算力租赁,用户可以租用他人的计算机资源,以完成自己的计算任务,而不需要购买自己的计算设备。这种模式通常用于需要大量计算资源的任务,比如数据分析、科学计算、人工智能训练等。

商业逻辑——为什么AI算力租赁具有商业价值

GPU多重参数影响大模型训练效果

单卡运算性能、显存和传输效率是影响GPU训练大模型效果的三个关键参数 。从算力供给侧来看,单卡每秒运算次数、显存、传输效率从三个维度共同影响大模型的训练效果。

从模型需求侧来看,模型参数规模、训练数据集规模、训练批次大小以及模型训练方式决定了模型训练所需的总计算次数、训 练和推理阶段所需的显存大小,从而进一步决定了大模型训练所需最少GPU数量以及模型训练时间。

英伟达A100-SXM和H100-SXM为目前训练大模型的,GPU。英伟达GPU根据使用场景分为多种类别,其中以RTX4090等为代表的消费级显卡主要用于游戏场景,以Tesla T4等为代表的工 业级显卡主要用于图形处理和人工智能推理领域,而以V100、A100、H100等为代表的加速计算卡主要用于人工智能训练场景。英伟达2017年5月将Tensor Core引入V100,大幅提升GPU进行混合精度矩阵乘加运算的速度,可大幅缩短AI场景下大规模矩 阵计算的时间,为人工智能场景下的加速计算奠定了基础。随着模型参数的增加,对于GPU运算性能以及通信传输性能的逐步提升,目前搭载NVLink和IB网络的A100-SXM和H100- SXM成为大模型训练的,GPU。

AI算力租赁业务应运而生

AI算力租赁业务聚焦于解决大模型训练的算力需求,连接多方资源。AI算力租赁业务产生的两个催化条件:

可用于大模型训练的算力资源和大模型训练需求供需失衡,短期算力需求远高于算 力供给(尤其针对用于大模型训练的英伟达A100-SXM和H100-SXM两类GPU);

时间对于大模型研发厂商而言是较为稀 缺的资源,即先行完成大模型研发的厂商有望获得更多的先发优势。AI算力租赁的商业本质为具有大模型训练需求的软件研发厂商向具有GPU资源的厂商租赁GPU算力,按月或按年支付租金, 市场上常见的租金计量方式包括:1)按整台服务器租赁(每台服务器含8张GPU),租金按照每台每月计量;2)按算力规模 租赁,租金按每P每年计量;

按单张GPU租赁,租金按照每GPU每小时计量。以上三类计量方式可相互换算。

AI算力租赁潜在需求规模

地方政府是AI智算中心建设的主要规划与投资方。根据IDC圈,全国有超过30个城市正在建设或规划智算中心,其中一些已经投入运营或即将投入运营,总规划算力达到了数十 EFLOPS。若假设未来全国智算中心算力达到50EFLOPS(对应50000PFLOPS),对应AIDC建设规模空间为500-750亿元。据不完全统计,目前已经明确公开宣布规划或建设中的地方智算中心规模已超26000P(统一换算成FP16口径)。

对标GPT-3和GPT-4模型,算力需求非线性增长,受限于显存,单卡算力的升级不会减少模型训练所需GPU的数量。GPT-3模型训练使用了128台英伟达A100服务器(训练34天),对应640P算力,GPT-4模型训练使用了3125台英伟达A100 服务器(训练90-100天),对应15625P算力。从GPT-3至GPT-4模型参数规模增加约10倍,但用于训练的GPU数量增加了 近24倍(且不考虑模型训练时间的增长)。短期来看,我们考虑国内15家头部大模型厂商对标GPT-3模型的训练需求(百度、腾讯、阿里、字节、京东、美团、讯飞、网 易、360、商汤、云从、百川、智谱、minimax、深言),则需要1920台A100/A800服务器(考虑到A100和H100的单卡显存 容量相同,使用H100理论上也需要相同数量的服务器,但可以大幅缩短训练时间),对应15360张GPU。长期来看,我们考虑国内5家头部大模型厂商对标GPT-4模型的训练需求,则额外需要13705台A100/A800服务器,对应近11 万张GPU。

盈利模型——AI算力租赁业务的盈利能力


免责声明:本网站所刊登、转载的各种稿件、图片均有可靠的来源,市场有风险,选择需谨慎!此文仅供参考,不作买卖依据,并不代表新讯网观点,由此产生的财务损失,本站不承担任何经济和法律责任,本站自动屏蔽违反《广告法》词语。

请选择您浏览此资讯时的心情

相关资讯
网友评论
本文共有人参与评论
用户名:
密码:
验证码:  
匿名发表
主办单位:北京时代互通文化传媒有限公司 技术支持单位:西部数码