边缘人工智能处理器InferXX1吞吐量呈现10倍涨势!
1148
据Flex Logix透露,他们已经开发了一种用于边缘 人工智能 的新协处理器InferX X1。该芯片采用了嵌入式可编程门阵列(eFPGA)芯片设计的专利互连技术,将eFPGA技术与nnMAX集群技术结合了在新的组合芯片中。
该公司表示,他们提供的吞吐量是现有推断边缘芯片的10倍。新芯片可能会用于边缘网关、低端服务器、机器人和其它高性能边缘设备,Flex Logix在加利福尼亚州圣克拉拉举行的处理器大会上展示了该芯片。
Flex Logix InferX X1芯片在只有一个DRAM的边缘应用程序中,提供了高吞吐量。该公司声称,每瓦特的吞吐量比现有的要高出很多,芯片的性能优势在低批量时尤为明显,这在只有一个摄像头或 传感器 的边缘应用程序中是十分必要的。
InferX X1在低批量情况下的性能接近于数据中心推理板,并且还会对大模型进行优化。性能基本上与图像大小成线性关系,所以对于100万像素的图像,帧率大约是原来的两倍。
InferX X1将作为边缘设备的芯片和用于边缘服务器和网关的PCIe卡投入使用。它使用了nnMAX编译器进行编程,该编译器采用Tensorflow Lite或ONNX模型。
特别声明:本文仅供交流学习 , 版权归属原作者,并不代表蚂蚜网赞同其观点和对其真实性负责。若文章无意侵犯到您的知识产权,损害了您的利益,烦请与我们联系vmaya_gz@126.com,我们将在24小时内进行修改或删除。