但具体来看,高通AI芯片和英伟达AI芯片各有所长。
公开资料显示,MLCommons是一个衡量人工智能处理速度的第三方组织,旗下MLPerf是权威性最大、影响力最广的国际AI性能基准测试。
企业用AI芯片训练模型,这一市场正在快速成长,英伟达占据统治地位。模型训练之后才会大规模推广使用,执行各种任务,这一过程可以叫作“推理”,比如AI可以根据提示生成文本,可以判断图片中是否有猫。
分析师认为数据中心推断芯片市场将会快速成长,因为越来越多的企业将AI技术植入产品中,与此同时谷歌等企业却在考虑如何节省成本。电费就是最重要的成本之一。高通以开发节能芯片见长,它针对AI市场推出低能耗Cloud AI 100芯片。
根据MLCommons的测试,以每个芯片每瓦可以处理多少数据中心服务器查询计算,在图片分类方面,高通AI 100的表现好于英伟达H100芯片。高通芯片每瓦可以执行197.6次查询,英伟达芯片只有108.4次,Neuchips开发的芯片达到227次。
在目标检测方面,高通芯片每瓦可以执行3.2次,英伟达芯片2.4次。店铺可以利用对象检测技术分析顾客足迹,看看客人最喜欢去哪里。
但在自然语言处理方面,无论是绝对性能还是能效,英伟达芯片都占据优势。聊天机器人(12.080, -0.01, -0.08%)会用到自然语言处理技术。英伟达芯片每瓦可以处理10.8个样本,Neuchips处理8.9个,高通处理7.5个。