每张A100显卡赚1000美元月?算力租赁成黄金赛道

  进入Al时代,算力资源稀缺问题严重,算力租赁或成中小企业 AI 算力解决方案,而坐拥算力的巨头们,也做起了算力租赁生意。

每张A100显卡赚1000美元月?算力租赁成黄金赛道

  近日,一份关于微软“云端算力租赁”服务毛利率的报告引发市场关注,42%的毛利率令这一业务似已成为微软新的“现金奶牛”。

  投研机构Bernstein的分析师Mark Moerdler 发布报告指出:“微软在生成式人工智能(Generative AI)的产品、平台软件和设计架构方面已经处于领先地位,帮助客户利用数据和人工智能实现盈利。他们正在积极投资 GPU/ AI 超级计算机,以满足强劲的需求。”该分析师估计,微软提供的云端算力租赁服务中,平均每张英伟达A100 GPU 每小时可赚进1.5美元,相当于每月约 1000 美元。以财务模型计算,微软 GPU 算力租赁业务产生的毛利率高达 42%!

  根据CoreWeave 官网算力租赁的价格,NVIDIA HGX H10080GB服务器一年租金保守估计约为165 万元人民币左右,每P的收入约为10.3 万元。2023年8月19日国内云算力平台租用A100(80G)服务器均价15.1元/小时。

  考虑算力利用率、各大平台竞争推出优惠活动,假设平均实际租金为7.6元/小时,投入10亿元资金的实际回本周期为1.5至2年,按照平台最低定价计算,毛利率为46.3%

  针对目前的算力租赁“浪潮”,华西证券根据鸿博股份上阶段投入6100 万元打造了100P的算力中心以及中贝通信预计投资2亿元打造500P算力中心的公告推测,100P的算力投入保守估计需要接近4400万元的资金,这还属于保守估计,乐观估计的线亿元账面资金大约能撬动1000P的硬件设备投。如此小投入高回报的生意,足以令企业心动。

  AI云算力采用“化整为零”方式赋能产业链各方,其本身是一种通过云计算服务提高租用计算资源的模式,适用于各种大规模计算需求的场景,企业用户可以根据自己的需求租赁服务器或虚拟机实现大规模的计算任务,而无需拥有自己的计算资源。

  为应对算力不足的问题,英伟达在 2023 年 GTC 大会上,宣布推出NVIDA DGX Cloud,能够提供多个 GPU 算力节点供租用者灵活使用,使得企业可 通过云服务商合作托管的 DGX Cloud 基础设施,而非购买昂贵的服务器设备。英伟达将面向商业客户开放用于开发ChatGPT等人工智能技术的超级计算机,几乎任何企业都可以用云租赁的方式,使用这些强大、但成本昂贵的设备。

每张A100显卡赚1000美元月?算力租赁成黄金赛道

  借鉴英伟达“卖铲子”模式,国内算力租赁也在加速发展。从2022年8月至今,国内共有22 家厂商布局算力赛道。其中,2023年6-8 月就有16 家企业涉足算力租赁市场,包括计算机、新能源、智能驾驶等厂家。

  其中,利通电子和世纪华通合作建立世纪利通,在上海、深圳等地建立大数据中心以开展算力租赁业务,预期面向腾讯、华为等大客户;中科曙光和AMD 深度合作,公司算力业务已与百度飞桨进行适配,为紫东太初、悟道等大模型训练提供算力,但目前国内已知接到订单的公司仍为少数,大部分公司仍处于前期投入阶段。

  AI大模型训练和推理所需的算力可观,前期资金投入巨大。以 ChatGPT 为例,不考虑与日活高度相关的推理过程所需的算力,仅考虑训练过程,根据论文《Language ModelsareFew-ShotLearners》的测算,ChatGPT 的上一代GPT-3(1750 亿参数版)所需的算力高达3640PF-days (即假如每秒做一千万亿次浮点运算,需要计算 3640天)。

  已知单张英伟达A100 显卡的算力约为0.6PFLOPS,则训练一次 GPT-3(1750 亿参数版),大约需要 6000张英伟达A100 显卡,如果考虑互联损失,则大约需要上万张 A100。按单张A100芯片价格约为10 万元,则大规模训练就需要投入约10亿元,非头部厂商难以承担。

  随着大模型以及相关应用的发展,算力需求呈现爆发式增长。除了大型互联网企业、AI龙头具有较多的GPU算力芯片储备外,中小企业在发展AI模型、应用过程中,会遭遇算力瓶颈。算力租赁成为广大中小企业解决算力需求的最优解。

  目前国内大模型竞争激烈,未来或迎来“万模大战”,巨大的算力消耗及团队招募带来的资金成本,以及能否有足够多的用户共建生态,是国内大模型的制胜关键。而对于大多AI企业和行业应用企业而言,轻资产的算力租售模式与企业资金实力和业务场景最为匹配,该模式有望快速在AI行业渗透,掌握算力资源的企业将具备非常明显的先发优势,而中小企业也将通过租赁算力实现应用的快速落地。

  壹零社:用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子,商业故事。《中国知网》每周全文收录;中国科技报刊100强;2021年微博百万粉丝俱乐部成员;2022年抖音优质科技内容创作者

相关阅读

添加新评论