“无论是在当今GPU可以做什么，还是在GPU无法做什么，IPU都有其价值点和价值主张。”几天前，在英国AI芯片初创公司Graphcore China的媒体交流会上，Graphcore高级副总经理兼中国区总经理陆涛与Graphcore中国的首席工程师，AI算法科学家Jin Chen进行了同步与DeepTech和其他媒体一起讨论Graphcore的新产品性能以及该公司在中国的着陆策略。在通信会议上，Graphcore解释了本月宣布的其大型系统级产品IPU-M2000的应用测试数据。已发布的数据显示，在典型的CV模型ResNet中，基于分组卷积的EsNeXt，EfficientNet，语音模型，诸如BERT-Large之类的自然语言处理模型以及诸如MCMC，IPU-M2000之类的传统机器学习模型正在吞吐，训练时间和学习结果在生成时间方面具有更好的性能。例如，IPU-M2000上EfficientNet的吞吐量达到A100的18倍。图IPU-M2000和GPU之间的吞吐量，培训和结果生成时间的比较（来源：Graphcore）以前，IPU-M2000和Graphcore的第二代IPU处理器GC200于今年7月15日发布。据报道，GC200芯片是基于台积电的7nm工艺制造的，集成了250TFlopsAI-Float计算能力和900MB处理器内存，是第一代产品的8倍。至于第三代IPU，卢涛没有在本次沟通会议上透露发布该产品的具体时间表，但他说下一代产品正在开发中，并且仍将专注于解决存储问题。支持PyTorch，TensorFlow，IPU和GPU之间的无缝连接此外，Graphcore还发布了PoplarSDK1.4版本和PyTorch IPU版本。 Graphcore在易用性和速度方面优化了PoplarSDK1.4版本，可以并行支持模型和数据，并且可以实现模型的水平扩展，从1 IPU到64 IPU。陈进说，下一代PoplarSDK有望实现横向扩展到128个IPU。值得注意的是，除了支持Graphcore自行开发的框架PopART之外，PoplarSDK1.4还支持Facebook的PyTorch框架和Google的TensorFlow框架。根据Jin Chen的说法，Graphcore在PyTorch代码中引入了PopTorch轻量级界面。通过该接口，用户可以基于当前的PyTorch模型进行打包，以实现IPU与CPU之间的无障碍连接。关于实现此功能的核心技术，金晨进一步解释说，Graphcore使用PyTorch中的jit.trace机制编译计算图，将其转换为与IPU和PyTorch兼容的表达格式，最后使用Graphcore自行开发的框架PopART后端audiff函数自动生成反向图形，因此同一模型可以在不同平台上任意运行。目前，PyTorch具有直观，易于理解，灵活易用的优点，因此受到开发人员的广泛喜爱和使用。 PoplarSDK1.4添加了对PyTorch的支持。该策略是希望用户也可以在IPU上体验PyTorch，使用户有更多的理由切换到IPU。但是，NVIDIA GPU已经占领了AI计算领域的大部分市场。此时，IPU可以提供的价值以及过渡到IPU的成本都是用户需要考虑的问题。在迁移成本方面，卢涛表示，经过几年的完善PoplarSDK，将软件和硬件从GPU迁移到IPU的难度现在已经比每个人想象的要困难得多。 Jin Chen补充说，在训练中，对于不太复杂的模型，迁移通常可以在一周内完成，而对于复杂的模型，则大约需要两周的时间；在推理中，基本上是1-2天的工作时间。在性能方面，卢涛表示：“ IPU在训练推理，语音和图像模型处理方面基本上超过了GPU。”但是，他也坦率地说：“不能说它超过GPU 100％，因为确实有很多算法模型，例如语音。有不同的语音模型和图像，也有不同的图像模型。将来：继续优化性能并进一步降低迁移成本。 IPU在机器学习性能方面的明显优势是不可否认的，但是有些人以前很坚强并且努力工作。巨型Nvidia，Graphcore不能暂时放松一下。陆涛在交流会上也多次提到，“目前，Graphcore面临的压力主要来自英伟达。”在“压力”之下，Graphcore的短期计划是专注于数据中心高性能培训和推理市场，