OpenAI:自研芯片基准测试数据超越英伟达

图片

当地时间25日,OpenAI公布自研哈拉佩尼奥AI推理芯片的最新基准测试数据,同时表示其多项核心推理性能指标超越英伟达GB200、GB300旗舰算力系统,引发市场高度关注。

OpenAI最新公布的测试结果显示,相较于英伟达GB200、GB300旗舰算力系统,自研AI推理芯片哈拉佩尼奥的单位功耗下推理性能达到GB系列的1.5至1.9倍,端到端推理延迟时间大幅减少40%至70%,这一跑分来自一家第三方基准测试平台,尚未经过大规模真实业务负载验证。

据介绍,哈拉佩尼奥芯片由博通公司代工制造,专为AI推理场景设计,主要用于运行已经训练完成的大模型,支撑ChatGPT等产品响应用户提问,并不适用于训练大模型任务。这款芯片可以有针对性地缓解AI推理高功耗、高延迟等行业痛点,有望大幅降低AI服务长期运行成本。

不过,这款芯片目前仅完成基准测试,距离大规模商业化落地仍有较长周期。据OpenAI硬件负责人介绍,哈拉佩尼奥芯片将于今年年底开展小范围试验部署,具备规模的实际部署预计要等到2027年。

有行业分析师表示,仅凭现阶段基准测试优势,哈拉佩尼奥推理芯片短期内难以颠覆英伟达在AI芯片领域的主导地位,但这款芯片的突破凸显推理赛道的战略价值,预计推理业务将成为未来全球AI芯片竞争的关键赛道。

猜你喜欢

▌本文来源:央视财经(ID:cctvyscj)




你会关注


工、农、中、建、交、邮储,集体公告!
多家美企密集宣布:降价!
利好来了!工信部最新发声
违规发布!中国地震局回应“四川长宁7.7级”地震预警相关问题
双预警齐发!大暴雨,10级以上雷暴大风!紧急提醒→


监制/柯成韵

主编/李天路

编辑/孙永慧


转发,关注!


文章原文

内容来自 央视财经,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅