腾讯混元Hy3发布 英特尔已完成至强6适配优化
目前,腾讯英特尔已在SGLang主分支完成针对腾讯混元Hy3与至强6处理器硬件特性的混元专属优化,以最大化发挥这款处理器平台的发布算力与带宽优势。 【PChome消息】7 月6 日,英特优化腾讯新一代自研通用多模态大模型混元Hy3正式发布并开源。尔已相比preview版本,完成它展现出显著强于同尺寸模型且比肩(参数规模2—5倍的至强)旗舰模型的智能水平,不仅延续了清晰陡峭的适配能力增长曲线,并且通过进一步提升后训练的腾讯算力规模以及数据质量和多样性,在各类任务上再次跃升,混元以较小尺寸首次比肩国内外大尺寸旗舰模型的发布效果。 英特尔作为混元模型在算力平台领域的重要合作伙伴,也在第一时间完成了Hy3在至强6处理器与Gaudi 2E AI 加速器平台上的尔已适配与优化, 以实际行动来加速优质开源大模型在产业应用中的快速落地。 此次英特尔对Hy3的完成快速支持与适配优化,包含了针对该模型中多个关键组件与算子的至强优化,这让至强6处理器平台能够通过充分释放其内置的英特尔AMX(高级矩阵扩展)技术的潜能,为该模型提供更为高效且强劲的推理加速支撑,进而可在推荐配置下,仅使用单台至强6 服务器即可部署总参数295B、BF16精度的满血版Hy3模型。 目前,英特尔已在SGLang主分支完成针对Hy3与至强6处理器硬件特性的专属优化,以最大化发挥这款处理器平台的算力与带宽优势。
- 最近发表
- 随机阅读
-
- 《地铁2039》技术细节公布 主机30帧电影级画面!
- 威海友邦保险公司电话,友邦保险威海分公司
- 平安财富宝年金保险,平安财富宝年金保险值得买吗
- 真实版电梯惊魂!电梯突然从4楼坠落吓坏乘客
- 2018年8月16日中国玻璃综合指数,行业资讯
- 宿州买重疾险,宿州买重疾险一年多少钱,在哪买
- 热品类、强动销!维维汽水实力来袭,选它准没错!
- 泉州男子花三百元买彩票没中奖 殴打抢劫女店主
- 《心之眼》开发商遭员工起诉:偷装侵入式监控软件
- 清远定期重疾险多少钱,清远终身重疾险多少钱,在哪买
- 平安人寿颐享世家:为您的生活品质提供保护伞,减少后顾之忧
- 龚定荣调研督办“大棚房”问题专项清理整治工作
- 15岁买重疾险怎么选,哪款产品值得推荐?
- 成都寿险怎么买,成都人重疾险该如何配置
- 貿易談判第九輪 這裡握手那裡分|天下雜誌
- 終結美中貿易戰 新協議有譜了?|天下雜誌
- 台湾25年来最大地震,“宛如9·21梦魇重现”
- 宿州买重疾险,宿州买重疾险一年多少钱,在哪买
- 热品类、强动销!维维汽水实力来袭,选它准没错!
- 曲靖少儿年金险多少钱,曲靖少儿年金险在哪买,哪种好
- 搜索
-
- 友情链接
-