首页 / 生活 / 正文

新的基准测试运行AI模型的速度

放大字体  缩小字体 来源:admin 2024-08-22 18:57  浏览次数:60 来源:本站    

  

  

  周一,一个名为MLCommons的人工智能基准组织公布了新测试的结果,这些测试确定了顶级硬件运行人工智能模型的速度。

  在大型语言模型测试中,英伟达(Nvidia Corp .)的芯片表现最佳,英特尔(Intel Corp .)生产的半导体紧随其后。

  新的MLPerf基准基于一个具有60亿个参数的大型语言模型,该模型总结了CNN新闻文章。该基准模拟了人工智能数据处理的“推理”部分,这为生成式人工智能工具背后的软件提供了动力。

  英伟达提交的推理基准测试的最高版本是大约8个其旗舰H100芯片。英伟达已经主导了人工智能模型训练市场,但还没有占领推理市场。

  英伟达的加速计算市场总监戴夫?萨尔瓦托表示:“你看到的是,我们在所有工作负载上都取得了领先的表现。”

  英特尔的成功基于该公司2019年收购的哈瓦那子公司生产的Gaudi2芯片。Gaudi2系统比英伟达的系统慢了大约10%。

  哈瓦那首席运营官Eitan Medina表示:“我们对推断结果感到非常自豪,因为我们展示了Gaudi2的性价比优势。”

  英特尔表示,他们的系统比英伟达的便宜——大约是英伟达上一代100系统的价格——但拒绝透露芯片的确切价格。

  英伟达拒绝讨论其芯片的成本。英伟达上周五表示,计划很快推出软件升级,使其在MLPerf基准测试中的表现提高一倍。

  Alphabet旗下的谷歌(Google)部门在8月份的云计算会议上发布了一款定制芯片的最新版本,预览了其性能。

声明:本站信息均由用户注册后自行发布,本站不承担任何法律责任。如有侵权请告知,立即做删除处理。
违法不良信息举报邮箱:
苏ICP备2021008455号