
周一,一个名为MLCommons的人工智能基准组织公布了新测试的结果,这些测试确定了顶级硬件运行人工智能模型的速度。
在大型语言模型测试中,英伟达(Nvidia Corp .)的芯片表现最佳,英特尔(Intel Corp .)生产的半导体紧随其后。
新的MLPerf基准基于一个具有60亿个参数的大型语言模型,该模型总结了CNN新闻文章。该基准模拟了人工智能数据处理的“推理”部分,这为生成式人工智能工具背后的软件提供了动力。
英伟达提交的推理基准测试的最高版本是大约8个其旗舰H100芯片。英伟达已经主导了人工智能模型训练市场,但还没有占领推理市场。
英伟达的加速计算市场总监戴夫?萨尔瓦托表示:“你看到的是,我们在所有工作负载上都取得了领先的表现。”
英特尔的成功基于该公司2019年收购的哈瓦那子公司生产的Gaudi2芯片。Gaudi2系统比英伟达的系统慢了大约10%。
哈瓦那首席运营官Eitan Medina表示:“我们对推断结果感到非常自豪,因为我们展示了Gaudi2的性价比优势。”
英特尔表示,他们的系统比英伟达的便宜——大约是英伟达上一代100系统的价格——但拒绝透露芯片的确切价格。
英伟达拒绝讨论其芯片的成本。英伟达上周五表示,计划很快推出软件升级,使其在MLPerf基准测试中的表现提高一倍。
Alphabet旗下的谷歌(Google)部门在8月份的云计算会议上发布了一款定制芯片的最新版本,预览了其性能。








