英特尔升级多显卡 AI 推理,Battlematrix整体性能提升最高达80%_每日快讯(日常热点指南)

英特尔升级多显卡 AI 推理,Battlematrix整体性能提升最高达80%


英特尔升级多显卡 AI 推理,Battlematrix整体性能提升最高达80%

  2025-08-14 01:12:26     简体|繁體
http://mrkx.qghjm.com/1166212.html

炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

(来源:IT之家)

IT之家8月12日消息,科技媒体WccfTech昨日(8月11日)发布博文,报道称英特尔为其锐炫Pro系列GPU的Battlematrix项目,发布首个重磅软件更新LLMScalerv1.0,重点优化了AI推理能力。

IT之家曾于5月报道,英特尔在COMPUTEX2025台北国际电脑展上,推出锐炫ArcProB50和B60两张显卡之外,还推出了ProjectBattlematrix推理工作站平台,支持最多8张锐炫Pro显卡并具备软件包支持,能运行高达150B参数的中等规模且精度高的AI模型。

Battlematrix平台集成硬件与定制化软件栈,优化推理性能和企业部署体验;而LLMScaler是基于vLLM框架开发的AI大模型推理容器,支持多GPU扩展、长序列高效推理及多模态任务。

LLMScalerv1.0重点优化了vLLM推理框架,对于32BKPI模型,40K序列长度下性能提升可达1.8倍;70BKPI模型同条件下提升高达4.2倍,8B至32B规模模型输出吞吐量较上版提升约10%。

该版本还引入分层在线量化,有效降低显存占用,并支持管道并行、数据并行、多模态模型及嵌入、重排序等功能,提升模型适应性与扩展性。

为便于企业级运维,LLMScalerv1.0集成了XPUManager工具,支持GPU电源管理、固件升级、诊断及显存带宽检测。

新容器基于Linux平台,充分利用多GPU扩展和PCIe点对点数据传输,实现最高80%的整体性能提升,系统同时具备ECC、SRIOV、遥测与远程固件更新等可靠性与可管理性特性,满足企业级部署需求。

英特尔强调,新软件栈遵循行业标准,兼容主流开发流程,OneCCL基准测试工具的集成也为开发者调优和性能评测提供了便利,进一步丰富了Battlematrix平台的生态支持。

根据英特尔路线图,本季度内还将发布更为稳固的容器版本,进一步优化vLLM服务能力。预计到今年第四季度,Battlematrix项目将实现全功能版本落地,推动大模型推理平台的持续升级,为专业领域用户带来更高效、更易用的AI解决方案。

海量资讯、精准解读,尽在新浪财经APP

编辑:财经 来源:市场资讯

免责声明:以上文章内容信息均搜集自互联网或用户发布,并不代表本站观点或立场,本站不对其真实合法性负责。如有信息侵犯了您的权益,请联系本站将立即删除。
分享到:

  • 上一篇
    下一篇

  • 今日要闻|实事关注

    每日快讯(日常热点指南)
    手机查看(二维码扫一扫)

    每日快讯网为您提供最新的行业简讯、新闻报道,以及今日热点内容,重大事件等实时资讯,24小时不间断播报,让您获得最新行业信息。
    « 2046年 » « 08月 »
    12345
    6789101112
    13141516171819
    20212223242526
    2728293031

    最新资讯

    婚姻危机!一种新型“出轨”方式正在流行,“短视频情人”,你可能参与其中
  • 2025-09-04 09:05:01

     

    烟台市人民检察院荣获2025市直机关合唱大赛一等奖
  • 2025-09-04 08:55:57

     

    张家口怀来:秋高气爽逛古驿
  • 2025-09-04 08:46:53

     

    巨野市场监管: 严管校园餐 护航开学季
  • 2025-09-04 08:37:50

     

    今日影评·铭记 | 王真儿讲述金陵之殇与民族铭记
  • 2025-09-04 08:28:46

     

    “玻璃娃娃”踏入校园!校方准备无障碍宿舍,母亲同寝陪读
  • 2025-09-04 08:19:42

     

    这两位央视主持人,原来是夫妻?低调了19年,比嫁入豪门还幸福
  • 2025-09-04 08:10:42

     

    “最快女护士”哭求领导支持调休跑马引热议,其个人账号已关评
  • 2025-09-04 08:01:36

     

    中央文件定调!新一轮城市竞争开始了,最终谁能胜出?
  • 2025-09-04 07:52:40

     

    72岁中国老人参加悉尼马拉松“大满贯”首秀:不到4小时跑完,有59年跑龄身体很好
  • 2025-09-04 07:43:29

     

    山东第二医科大学临床医学院“渤海脊梁,胶潍新生”红韵兴乡实践团开展“三下乡”社会实践活动
  • 2025-09-04 07:34:26

     

    四川资阳乐至:农机穿梭稻浪间,金秋丰收“加速度”
  • 2025-09-04 07:25:25

     

    “从历史走向未来——纪念抗战胜利80周年”学术研讨会在思乐得隆重举行!
  • 2025-09-04 07:16:19

     

    擦亮文明窗口|八旬老人坐错车迷路 民警暖心相助帮团圆
  • 2025-09-04 07:07:15

     

    菏泽市万福实验学校2025级高一新生军训开营仪式!
  • 2025-09-04 06:58:12