当前位置:首页> 资讯 >

环球即时:“软硬一体”打造大模型 腾讯发布新一代高性能算力集群HCC

时间:2023-04-14 15:10:26    来源:


(资料图)

上证报中国证券网讯(记者 温婷)4月14日,腾讯云发布面向大模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用最新一代腾讯云星星海自研服务器,搭载了NVIDIA H800 Tensor Core GPU,并提供业界目前最高的3.2T超高互联带宽。以新一代HCC为标志,腾讯将基于自研服务器等方式,软硬一体,打造面向AIGC的高性能智算网络。

人工智能大模型训练离不开高性能的算力集群,算力集群的“强”,由单机算力、网络、存储共同决定。而随着算力需求的增长,用于采购硬件的资金投入也呈指数级增长,给不少企业带来了巨大的现金流压力。腾讯云新一代计算集群通过对单机算力、网络架构和存储性能进行协同优化,能够为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。

据悉,HCC高性能计算集群主要面向大规模AI训练,包括自动驾驶训练、自然语言处理、AIGC大模型训练等;以专用集群方式售卖,腾讯云将裸金属云服务器作为节点,满配最新代次的GPU,并结合CFS Turbo高性能存储、节点之间通过RDMA网络互联,给大模型训练业务提供高性能、高带宽和低延迟的一体化高性能计算。

值得注意的是,算力的提升不是单纯堆卡,而是存在“木桶效应”,计算、存储、网络一旦出现瓶颈就会导致运算速度严重下降。

此前,腾讯多款自研芯片已经量产,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。

去年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。

目前,腾讯混元AI大模型主要覆盖NLP(自然语言处理)、CV(计算机视觉)、多模态等基础模型和众多行业模型。

标签:

环球即时:“软硬一体”打造大模型 腾讯发布新一代高性能算力集群HCC

上证报中国证券网讯(记者温婷)4月14日,腾讯云发布面向大模型训练的新一代HCC(High-PerformanceComputingCluster)高性能计算集群。该集群

2023-04-14

ChatGPT太火了!基民急了,喊话新能源基金经理:还行不行,不行就转到游戏那边去了...

中国基金报记者李树超在今年ChatGPT、“中特估”成为市场耀眼明星的同时,曾经独领风骚的新能源板块表现凉凉,更有基民喊话新能源基金经理“坚

2023-04-14

全无锡人都在等的雨,什么时候来?

江南的雨是懂周末的 江南的雨:周末是要休息的今天下,明后天休息下周一二再来一波强降雨周末打算外出玩耍吗?沙尘来袭,气温升高锡城的空气

2023-04-14

【时快讯】香蕉和牛奶可以一起吃吗孕妇_香蕉和牛奶可以一起吃吗

1、疾病分析:香蕉和牛奶可以一起吃。2、这两种食物中没有任何物质,也不会引起其他不适症状。3、香蕉中的维生素C含量不是很

2023-04-14

“智能化”加速,箭牌家居迎来新增长引擎? 焦点速递

2023年4月11日,箭牌家居发布了2022年度报告,财报数据显示公司全年实现归属于上市公司股东的净利润5 93亿元,同比增长2 75%。这一成绩虽然受

2023-04-14

世界讯息:第三届消博会上热议“海南全岛封关”,全球消费品巨头提前布局

眼下的海南岛,免税消费热度不减。从海口的日月广场免税店到三亚的国际免税城,游客们精心挑选来自全球的消费精品,提走大包小包

2023-04-14

环球热文:银座股份:公司未听说上述相关事项,有关公司重要信息均以公司在上交所及证监会指定媒体发布的公告为准

银座股份(600858)04月14日在投资者关系平台上答复了投资者关心的问题。

2023-04-14

男子疑似江边洗车落水溺亡,当地回应:现场立有警示牌

“好好洗个车,人就这样没了……”4月12日,有多名网友发视频称,沱江四川内江城区段,一男子驾车到江边洗车,在抓漂走的车垫

2023-04-14

全球科技巨头身陷反垄断困局 全球微动态

最近,全球科技巨头遭遇反垄断调查和罚款的消息不时见诸报端,不仅欧美继续积极推进反垄断进程,亚洲国家反垄断的力度也在加强。

2023-04-14

加拿大丰业银行:将菲利普斯66目标价从130美元下调至125美元。

加拿大丰业银行:将菲利普斯66目标价从130美元下调至125美元。

2023-04-14