IPU云端和办事器处理计划供给商Graphcore本日正式公布全新IPU体系产物——Bow系列。Bow Pod体系产物采取了环球首款3D Wafer-on-Wafer处置器——Bow IPU。Bow IPU是新一代Bow Pod AI计较机体系的焦点。

值得注重的是，与上代产物比拟，Bow Pod可为实在天下的AI利用供给高达40%的机能晋升和16%的电源效力晋升，但价前和前代比拟连结稳定。同时，与前一代产物100%软件兼容，用户正在停止摆设时无需变动现有代码。

Bow Pod比前一代机能晋升40% 能效晋升16%

Bow Pod旨正在为各类AI利用年夜范围供给实在天下的机能，从用于天然说话处置的GPT和BERT到用于计较机视觉的EfficientNet和ResNet，再到图神经收集和很多其他利用。

此中，Bow-2000 IPU Machine(以下简称Bow-2000)是全部Bow Pod系列的根本构成部门。

Bow-2000 IPU Machine

Bow-2000采取了与Graphcore 二代IPU-M2000 machine一样的体系架构，但装备的是四个Bow IPU处置器，可供给1.4 PetaFLOPS的AI计较。Bow-2000能够完整向后兼容现有的IPU-POD体系，其高速、低时延的IPU布局和矫捷的1U形状尺寸连结稳定。

Bow Pod系列

Bow-2000可安拆正在戴尔、Atos、Supermicro、海潮和遐想等抢先品牌的主机办事器上，从而构成Bow Pod体系。全部Bow Pod系列包罗Bow Pod16(4台Bow-2000和一台主机办事器)、Bow Pod32(8台Bow-2000和一台主机办事器)、Bow Pod64和更年夜的旗舰体系Bow Pod256和Bow Pod1024。

Graphcore Pods正在数据中间

以旗舰产物Bow Pod256为例，其供给跨越89 PetaFLOPS的AI计较，而超年夜范围Bow Pod1024可供给350 PetaFLOPS的AI计较，撑持机械进修工程师正在AI模子范围呈指数增加的环境下仍可抢先一步，正在机械智能范畴获得新的手艺冲破。

Graphcore供给的数据显现，正在机能方面，正在与配有Bow Pod体系的Mk2 IPU-Pod体系不异的峰值功率规模内，客户发明各类AI利用的机能晋升高达40%。

正在CNN收集、Vision Transformer的收集和深条理的文本到图片的收集模子练习中，Bow Pod比拟前一代产物机能都有30%多的晋升，EfficientNet-B4收集下机能晋升能够到达39%。

同时，Bow Pod体系还能够年夜幅进步电源效力。颠末一系列现实利用测试表白，Bow Pod的每瓦机能 高可晋升16%。

对 早进的计较机视觉模子EfficientNet，Bow Pod16机能比同类Nvidia DGX A100体系晋升5倍以上，而价前只要一半，整体具有本前上风晋升高达10倍。

Bow IPU处置器黑科技：Wafer-on-Wafer立异手艺

为什么此次推出的全新一代IPU产物Bow Pod系列能有如斯优良的机能和能效表示呢?

Graphcore年夜中华区总裁兼环球首席营收官卢涛揭秘暗示，做为Bow-2000、Bow Pod体系的焦点，Bow IPU处置器采取了环球首项3D半导体手艺，从而撑持Bow Pod体系实现了庞大的机能晋升和更高的电源效力。

据悉，Wafer-on-Wafer 3D手艺由Graphcore与台积电协作开辟，并初次利用正在IPU处置器上。Wafer-on-Wafer手艺有潜力正在硅片之间供给更高的带宽，从而优化电源效力，正在晶圆级别晋升Colossus架构的功率。

Bow IPU中的Wafer-on-Wafer，两个晶圆连系正在一路，发生一个新的3D裸片。此中一个晶圆用于AI处置，正在架构上与GC200 IPU处置器兼容，具有1472个自力的IPU-Core tile，可以或许运转跨越8800个线程，具有900MB的处置器内存储，而 二个晶圆具有供电裸片。

经由过程正在供电裸片中增加深沟槽电容器，位置正在处置内核和存储旁，我们可以或许更高效地供电，从而实现350 TeraFLOPS的AI计较，实现40%的机能晋升。

经由过程与台积电慎密协作，Graphcore已充实考证了整套手艺，包罗后背硅通孔(BTSV)和Wafer-on-Wafer(WoW)夹杂键合中的多项冲破性手艺。

另外，Graphcore中国工程副总裁、AI算法科学家金琛弥补暗示，那些机能数据的晋升，很年夜水平也回功于Graphcore全部软件栈Poplar SDK的生态体系。此中，自研的图编译器PopART等软件的加持使得IPU产物正在分歧利用的机能上可以或许获得普遍和通用的晋升。

今朝，新 Bow Pod体系现已上市，和上一代产物比拟，价前稳定，今朝已起头正在环球规模内发货。

卢涛夸大，Bow Pod体系上市的同时，针对IPU-M2000定单的老用户会推出一些优惠计划，确保那些老客户也能够取得类似的每美圆机能。

据悉，Graphcore的客户已涵盖尝试室、医药安康、 、云计较、景象形象阐发展望、份子动力学、聪明都会、互联网等诸多行业。金山云星曜产物(裸金属办事器)系列的金山云IPU办事器就搭载了Graphcore IPU(智能处置器)及Poplar软件栈。

将来打算

Graphcore方面流露，正正在开辟一款能够用来超出人脑处置的超等智能机械，并将于2024年托付那台环球首台超等智能计较机——Good Computer(古德计较机)。

据先容，那款超将来的智能计较机之以是被定名为Good，一方面是Graphcore努力于打造“好”的计较机，一方面是向计较机科学家前驱Jack Good(杰克·古德)致敬。

今朝Graphcore正正在开辟新一代IPU手艺，为那款Good Computer供给跨越10 Exa-Flops的AI浮点计较; 高可达4PB的存储，带宽跨越10PB/秒;撑持跨越500万亿参数的AI模子;3D Wafer-on-Wafer逻辑栈;同时取得Poplar SDK的完整撑持。

售价方面，那款Good Computer估计价前正在100万美圆至1.5亿美圆。