从市场表现来看,11月14日,A股人工智能板块大幅提振,汇纳科技在发布算力服务涨价公告后,股价迅速拉涨,并带动算力租赁板块走高。有算力服务厂商上市公司向证券时报·e公司记者证实,公司已经跟下游客户商量涨价事宜。
加速升级提升内存
无论是生成式AI,还是高性能计算,市场对大容量、超高速的GPU需求日益剧增,英伟达AI芯片成为“刚需”,将过去两年一发布架构节奏转变为一年一更新,加速升级来回应市场需求。
当地时间11月13日,英伟达宣布在AI芯片H100的基础上,发布新一代H200芯片。基于Meta的Llama 2大模型的测试表明,H200的输出速度大约是H100的两倍。另外,H200在推理速度上几乎达到了H100的两倍,带宽增加了2.4倍。
相比上一代A100和H100,H200主要变化在于内存,成为首款采用HBM3e(高频宽存储器)的GPU,使得带宽从H100的每秒3.35TB提高至4.8TB,提高1.4倍,存储器总容量从H100的80GB提高至141GB,容量提高1.8倍,同时推理能耗大幅降低。
据Trend Force集邦咨询研究指出,当前HBM市场主流为HBM2e,包含NVIDIA A100/A800、AMD MI200以及多数云服务厂商自研加速芯片皆以此规格设计。同时,为顺应AI加速器芯片需求演进,各原厂计划于2024年推出新产品HBM3e,预期HBM3与HBM3e将成为明年市场主流。近期,三星、美光等存储大厂正在不断加快扩产步伐。
集邦咨询分析师吴雅婷最新预测,全球HBM生产总量有望翻倍增长,成为贡献2024年DRAM大厂营收“重头戏”。
国产存储厂商多从发力企业级存储产品,布局算力服务器市场。佰维存储最新在互动平台表示,公司的企业级SSD和服务器内存条可应用于算力服务器,目前该类产品出货占公司总营收较小。公司高端的存储芯片包括用于智能手表、AR/VR等旗舰穿戴产品ePOP存储芯片,面向中高端手机的UFS3.1、LPDDR5、uMCP存储芯片等。
江波龙高管日前接受调研时表示,公司的企业级存储产品组合中, eSSD 产品和 RDIMM 产品主要用于服务器为主的高端企业级应用场景。目前,公司 eSSD、RDIMM 产品已经通过包括联想、京东云、BiliBili 等重要客户的认证,并且已经取得了部分客户的正式订单实现了量产出货,将为公司业绩增长带来新的增量。
巨头角逐中国AI芯片市场
本次推出的H200将在2024年第二季度推出,英伟达投资的CoreWeave、Lambda和Vultr。以及亚马逊云科技、谷歌云、微软Azure和甲骨文云基础设施,都将成为H200“尝鲜”用户。
围绕中国市场,算力供应商面临着日趋严格的管控。今年10月17日, 美国商务部工业和安全局(BIS)发布了芯片出口管制新规,设置了“性能密度阈值”等指标,升级了对高算力的AI芯片的管控力度;并迅速收紧了30天政策宽限期,英伟达10月24日公告其数据中心或者销售产品设计的总算力4800或更高产品被要求立刻执行管制措施。
围绕着美国政府管制,巨头也在调整产品策略。英伟达此前向中国市场提供低配版800系列AI芯片,管制升级后,近日媒体消息称,英伟达已开发出针对中国市场的最新改良版系列芯片 HGX H20、L20 PCle和L2 PCle,不过英伟达官方尚未对此作出评论。今年9月,英特尔公布将在明年推出采用5nm制程的高端AI处理器Gaudi 3,并在此前针对中国市场推出高端AI处理器Gaudi 2。
有算力运营商上市公司向e公司记者表示,已经注意到英伟达向中国市场提供特供算力芯片消息,至于是否会采购以官方消息为准。
另外,第一财经报道浪潮信息工作人员表示目前还没有接到相关通知,公司也会继续去和对方沟通;如消息属实且客户接受度较好,可能会有一定的订单交付,但具体还是要等待消息的真实性。优刻得董秘办回应媒体表示考虑采购,待厂商提供芯片后,根据适配效果来考量。
英伟达AI芯片供不应求背景下,AI算力租赁、建设等需求爆发。据e公司不完全统计,近期约10家上市公司密集发布签署算力服务相关协议。
算力市场开启涨价
就在本次英伟达发布新品之际,算力市场供不应求的局势下开启强势“涨价”模式。汇纳科技11月14日接近上午收盘时公告,拟上调部分算力服务业务收费价格。
根据合作方四川并济科技有限公司通知,由于内嵌英伟达A100芯片的高性能算力服务器算力需求大幅增加。相关高性能运算设备持续涨价,算力资源持续紧张,四川并济科技有限公司决定对其A100算力服务收费拟上调100%。即日起,汇纳科技拟将所受托运营的内嵌英伟达A100芯片的高性能算力服务器算力服务收费同步上调100%。
虽然汇纳科技表示此次价格调整暂不会对经营业绩产生重大影响,但是公司股价在公告发布前开始拉涨,并从10:53上涨近20%,股价封于涨停板。
据e公司记者了解,近期算力市场供应日趋紧张,就连非高性能计算的算力也出现一定程度购买困难。近期多家公司介绍算力成本上涨大约30%-50%,汇纳科技涨价再度拉高行业水位,不过,汇纳科技针对是的目前算力最强的A100系列。
中贝通讯董秘办工作人员向e公司记者表示,公司有在跟客户沟通涨价事宜,另外,公司在建的算力中心在等待设备交付过程中,所采购的AI芯片包括英伟达A/H 800系列,当前无法确定是否会延期,最终以交货时间为准。
在11月接受机构调研时,中贝通信高管就透露近期算力供应较为紧张,目前很多渠道都拿不到货,因此相应的价格也会慢慢增加,正与客户进行谈判讨论涨价事宜。据介绍,公司规划中四个智算中心,并且拓展海外算力服务市场,今年来订单已签约金额 8.65 亿元,预计全年签约总金额将超过去年。
另外, 媒体报道恒润股份投资者关系部相关工作人员表示,采购成本来看到目前已上涨50%,同时算力租金价格也在上涨;青云科技在互动平台上表示,公司会随着近期市场供应的变化情况进行提价。
面对当前算力芯片供应紧张局面, 国产算力运营厂商联合国产GPU厂家,打起算力供应“组合拳”。
中贝通信高管表示公司在进一步拓宽国际领先性能服务器的采购渠道和采购力度的同时,加强了与国内 GPU 厂家的交流和合作。近期已与华为就华为根技术生态联盟合作、技术与业务合作等方面开展了交流,与超聚变达成算力合作意向,国产算力部署计划在细化落实中。
弘信电子在互动平台表示,公司与英伟达及相关渠道商保持了密切的联系,拥有良好的合作关系,目前具备足够的英伟达多型号芯片的采购渠道。在公司即将落地的10亿服务器订单交付中,应最终客户市场需求,公司将提供混合算力,灵活配置英伟达算力加国产燧原算力等的组合,其中以英伟达算力为主,最大限度满足客户需求。
弘信电子10月24日晚间公告,公司与上海燧原科技有限公司签署了有效期一年的《采购协议书》。公司将根据终端客户的实际需求灵活配置燧弘品牌的混合算力,今年需交付的服务器将部分搭载燧原芯片等国产算力、部分搭载英伟达芯片等进口算力,最终形成多元异构混合算力;目前公司已正式向燧原科技下发9152片芯片采购订单,计划于年底前完成全部芯片的交付,快速形成国产算力落地。
责编:张骞爻
校对:姚远
2023-11-16
2024-09-26
2023-10-08
2024-01-24
系统资讯推荐
win10系统推荐
系统教程推荐