总部位于英国的AI芯片公司Graphcore公布了新一代IPU产物Bow，那是其 三代IPU体系，公布即面向客户发货。

与上一代IPU比拟，Bow IPU机能晋升40% ，能耗比晋升了16%，电源效力也晋升16%。

值得注重的是，那一次Bow IPU的机能晋升并不是首要依靠采取更进步前辈的造程，Bow IPU采取了和上一代IPU不异的台积电 7nm，经由过程采取和台积电配合开辟的进步前辈硅晶圆堆叠手艺（3D Wafer-on-Wafer）到达机能和能耗比的晋升。

Bow做为天下首款3D WoW处置器，证实了芯片机能晋升的范式从进步前辈造程向进步前辈封拆转移的可行性。

新一代 IPU 机能晋升40%，价前连结稳定

2016年，Graphcore建立并首创了全新范例处置器架构IPU，因其正在架构上的立异曾被英国半导体之父Hermann Hauser称之为是计较机汗青上的 三次反动。

履历6年时候的成长，Graphcore的IPU逐步正在正在金融、医疗、电信、机械人、云和互联网等范畴获得效果。本周四，Graphcore又推出了 三代产物Bow IPU。

据Graphcore先容， 三代IPU相对上一代M2000，机能进步40%，每瓦机能晋升16%，即能耗比实现16%的晋升。

不外，AI芯片的实在机能还需求放正在分歧的利用范畴中会商。为此，Graphcore也给出了正在分歧垂曲范畴中Bow的机能表示。

正在图象方面，不管是典范的CNN收集，仍是近期比力热点的Vision Transformer收集，和深条理的文本到图片的收集，与上一代产物比拟，Bow IPU都有30%到40%的机能晋升，正在EfficientNet-B4那一项中，靠近实际上限值。

BERT练习模子是天然说话方面的典范模子，基于BERT，OpenAI提出了GPT-1、GPT-2、GPT-3等纵向扩大或横向扩大，经由过程更深的收集条理和更宽的收集宽度让模子的机能和精度进一步进步。

“我们能够看到，那些模子正在我们新 的硬件形状上都有很年夜的机能晋升。”Graphcore中国工程副总裁、AI算法科学家金琛先容道。

不但如斯，转换到现实模子中的吞吐量，与IPU POD64比拟，正在计较机视觉的ResNet50 和 EifficientNet-B4 练习模子中，Bow Pod64的吞吐量可以或许到达34%和39%的机能晋升。

天然说话方面， BERT-Large Ph1 预练习模子和语音辨认Conformer Large 练习模子，后者都有36%的吞吐量晋升。

做为英伟达的合作敌手，Graphcore天然不忘将 Bow Pod16 与DGX-A100停止对照，尝试数据表白，EfficientNet-B4的backbone的练习正在DGX-A100上需求破费70个小时的练习时候，而正在Bow Pod16上，只需求14小时摆布。

靠近实际极限的机能晋升，Graphcore Bow IPU是若何实现的?

5nm不再是首选，采取进步前辈封拆性价比更高

从芯片的规格上看，Bow IPU是天下上 一款基于台积电的 3D Wafer-On-Wafer的处置器，单个封拆中具有跨越600亿个晶体管，具有350 TeraFLOPS的野生智能计较的机能，是上一代MK2 IPU的1.4倍。

片内存储较上一代来看没有转变，仍然连结0.9GB的容量，不外吞吐量从47.5TB进步到了65TB。

“转变首要表现正在，它是一个3D封拆的处置器，晶体管的范围有所增添，算力和吞吐量均获得晋升。” Graphcore年夜中华区总裁兼环球首席营收官卢涛说道。而正在年夜家都存眷的工艺造程上，Bow IPU 持续了上一代台积电 7nm 工艺造程，没有转变。

实际上，一颗芯片的机能晋升很年夜水平上取决于工艺造程上的前进，但跟着工艺造程愈来愈迫近物理极限，摩尔定律逐步掉效，业界不能不寻觅新的手艺标的目的来持续摩尔定律。此中，3D封拆就是被业界普遍看好的手艺标的目的。

中国工程院院士、浙江年夜学微纳电子学院院长吴汉明就曾正在一次演讲中提到，若是将芯片造造和芯片封拆相连系，也能够做到65nm工艺造程实现40nm工艺造程的机能功耗要求。

Bow IPU恰好考证了吴院士的不雅点。

卢涛暗示，Bow IPU产物机能的晋升首要来历于3D WoW和新增的Die。

至于为什么挑选改动封拆体例而不是更进步前辈的工艺，卢涛则暗示MK2 IPU有594亿个晶体管，年夜概823平方毫米，已是7nm单个Die可以或许出产的 紧密的芯片。

“我们评价从7nm、5nm，到3nm等分歧工艺节点的收益时发明，从7nm到5nm的出产工艺晋升所带来的收益不像之前从28nm到14nm一样，可以或许带来百分之几十的收益，而是降到了20%。这时候候我们能够经由过程此外手腕和方式取得一样的收益。”

经由过程3D堆叠的体例，Bow IPU的两个Die增添了晶体管的数目，此中一个Die(Colossus Die)和上一代一样，另外一个Die首要用于进步跨Colossus Die的电源功率传输，优化Colossus Die的操纵节点，从而转化为有用的时钟加快。

正在同台积电的协作方面，卢涛告知雷峰网，Graphcore正在一年之前就同台积电协作了一颗测试芯片，与台积电的干系很是慎密，加上AI处置器自己范围较年夜，需求一些新手艺撑持落地，而从台积电的角度而言，新的手艺也需求有需求的产物配合推动。

值得一提的是，固然封拆体例有所转变，但Bow IPU开箱即用，与前一代产物百分之百软件兼容，不消点窜任何代码，老用户无需做任何软件适配事情就可以取得机能晋升，价前连结稳定。

今朝，美国国度尝试室Pacific Northwest已基于Bow IPU测验考试做一些基于Transformer的模子和图神经收集，面向计较化学和收集平安方面的利用，且给出了比力正面的反应。

持续3D封拆，开辟超出人脑的超等智能机械

Bow IPU利用3D封拆只是出发点，面向将来，Graphcore正正在开辟一款能够用来超出人脑处置的超等智能机械。

Graphcore将那款正正在研发的产物定名为Good Computer，一方面但愿计较性能够为那个天下带来正面的影响，另外一方面致敬闻名计较机科学家Good。

基于3D WoW，估计将来Good Computer将包括8192个IPU，供给跨越10 Exa-Flops的AI算力，实现4 PB的存储，能够助力跨越500万亿参数范围的野生智能模子的开辟。

取决于分歧的设置装备摆设，Good Computer价前将正在100万美圆到1.5亿美圆之间。

卢涛暗示，开辟Good Computer仍是会相沿IPU的系统布局，IPU的存储是正在处置器内里，固然不叫类脑、内存计较或存算一体，但从某种水平上而言，IPU的运做机理靠近年夜脑计较的事情道理，只是把计较和存储相连系。

别的，Graphcore也将从软件方面更有用撑持稀少化以到达类脑的计较量。