导读 EETimes报道,Groq已成为第二家在云端首次发布其深度学习芯片的初创公司。它的AI推断张量流处理器(TSP)现在可以通过云服务提供商Nimbix用于
EETimes报道,Groq已成为第二家在云端首次发布其深度学习芯片的初创公司。它的AI推断张量流处理器(TSP)现在可以通过云服务提供商Nimbix用于“选定的客户”。
去年年底,Graphcore成为第一家通过微软的Azure在云中看到其AI芯片的创业公司。Nimbix现在提供Groq的张量流处理器。
Nimbix首席执行官表示:“ Groq的简化处理体系结构是独一无二的,可为计算密集型工作负载提供前所未有的确定性性能,并且是我们基于云的AI和深度学习平台的令人兴奋的补充。”
Groq的TSP额定值为1000 TOPS(1POPS),该公司声称在大批量生产时,其性能是最佳GPU的2.5倍,而在批量生产数量为1时,其性能领先优势是17倍。
除了GPU,该芯片还与其他许多深度学习推理芯片竞争。最值得注意的是,英特尔和高通公司今年还将寻求在云中获得自己的NNP-I和Cloud 100芯片。
WikiChip对该芯片进行了深入研究。