腾讯发布新一代计算集群 料人工智能训练受惠

撰文: 柳英杰
出版:更新:

腾讯云今日(4日)新发布的面向大模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群,搭载了NVIDIA H800 Tensor Core GPU,整体性能比过去提升了3倍。

计算集群多数用于训练人工智能大模型。人工智能的训练通常需要数万亿个单词训练,参数量亦用上数万亿,单块芯片难以计算,就要将上万台服务器,通过网络连结,组成大型的计算集群用作计算。

腾讯(0700)表示,新一代集群通过对单机算力、网络架构和存储性能进行协同优化,能够为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。

HCC算力产品现已公开内测,目前仅接受企业客户申请,在内测资格申请通过后,申请者将会在云服务器购买页看到对应购买入口。

另外,腾讯亦指出其公司自研芯片已经量产,包括用于AI推理的紫霄芯片。它采用自研存算架构和自研加速模块,可以提供高达3倍的计算加速性能和超过45%的整体成本节省。