十倍GPU性能阿里AI芯片“含光800”长这样感受下
2707
传统X86、GPU等芯片领域,国内公司可以说是比较落后,不过在AI芯片上,国内半导体行业或有机会赶超,阿里巴巴旗下的平头哥去年就推出了性能堪比GPU的AI芯片——含光800。
含光出自《列子·汤问》篇有“上古三剑”一章,寓意含而不露,光而不耀,象征含光800无形却强劲的算力。
含光800是一款AI芯片,偏重推理。据介绍,1颗含光800的算力相当于10颗GPU,目前基于含光800的AI云服务已在阿里云上线。
官方数据显示,含光800在芯片测试标准平台Resnet 50上的具体分数为:性能78563 IPS,是第二名(15012)5倍;能效比500 IPS/W,是第二名(150)3.3倍。
简单来说,含光800这样的AI芯片是要跟GPU加速的AI芯片竞争的,由于功能更加转移,所以能效会更高,性能更好。
在ISSCC 2020大会上,Wikichip网站编辑看到阿里巴巴平头哥展示的含光800芯片及加速器,如下所示:
可以看到这些加速卡上有AliNPU Vision的logo,除了没有视频输出接口,看上去就跟显卡差不多——当然,GPU芯片的AI加速器通常也是这个样子的,不需要视频输出。
拆开散热器之后,可以看到含光800芯片的本身及PCB。
含光800芯片使用的是台积电12nm工艺生产,核心面积高达709mm2,相当于最高端的NVIDIA GPU芯片了,目前GV100大核心的核心面积也不过815mm2,所以含光800还是一款相当大的AI芯片的。
此外,从PCB上可以看到,这个加速器使用了16相供电,比高端显卡的供电也只高不低,阿里没公布过TDP等指标,单从供电上看的话功耗估计也得是250W级别的,毕竟性能也是十倍于GPU。
右边可以看到2个供电接口,是8+4pin组合,这倒是有些奇怪,不像是显卡常用的6+8pin接口。