到2022年，云AI推理需求将迎来爆炸性增长。加速器卡“ Yunsui T10”去年年底，随缘科技发布了首个面向云的高性能推理卡。这种流行病加快了数据中心建设和AI应用的步伐。传统数据中心与AI没有直接关系，即X86 + GPU加上大量存储和数据处理，但是现在越来越多的数据中心正在引入AI加速平台。 AI的渗透率将越来越高，我们预计渗透率将从5％到25％-30％，市场非常巨大。”穗远科技首席执行官赵立东在接受《中国商业报》采访时说。 12月21日，随缘科技发布了首款AI推理产品“ Yunsui i10”。用于数据中心。该公司是腾讯投资的国内AI芯片初创企业。 2018年8月，穗远科技在腾讯的带动下获得3.4亿元人民币的A轮融资。今年5月，穗远科技宣布完成7亿元人民币的B轮融资，由半导体行业基金吴月峰资本领投，腾讯和上海双创紧随其后。按使用场景划分，AI芯片主要分为云和终端芯片。当前主流的神经网络深度学习包括两个部分：训练和推理。云追求高性能，开发成本更高，并且终端更多地关注低成本和低功耗。目前，中国的AI初创企业主要部署在终端和边缘端。赵立东认为，作为人工智能行业的基础设施，高性能的AI计算芯片和数据中心分布式集群具有巨大的市场空间和从架构升级到应用场景着陆的机遇。除了培训方面，对云AI推理的需求也在增加。根据研究院CCID Consulting的报告，从2019年到2021年的三年中，中国AI芯片市场的规模将保持50％以上的增长率。达到305.7亿元。其中，随着大型本地数据中心建设的完成，云培训芯片的增长速度有所放缓。随着各个领域市场需求的释放，云推理芯片和终端推理芯片的市场增长率将继续呈现上升趋势。数据显示，从2019年到2024年，云训练芯片的复合年增长率将达到32％，而云推理的增长率将达到69％。到2022年，中国云推理芯片市场规模将达到189亿元，首次超过云培训市场。赵立东表示，人工智能实际上已经在过去的五六年中开始了，甚至在中国甚至更晚。 BAT等大公司在2018年和2019年才开始大量购买Nvidia V100培训芯片。“培训与推理之间的关系是，将经过培训的模型部署到推理产品上。当模型和算法不成熟时，您需要不断地训练和迭代。只有当它们成熟时，才能部署它们以推断实际的应用程序。从2018年到2022年，在过去几年中，许多情况下的算法和模型已经逐渐成熟。真正的大规模应用。当推理芯片的销售收入超过训练芯片的销售收入时，许多算法和模型已开始被广泛使用。对于AI领域来说，2022年是一个重要的节点。在生态合作方面，穗远科技首席运营官张亚林说：“云穗i10已经完成了对浪潮，鑫华三，超微等服务器厂商推理服务器的改造。它可以应用于各种应用场景，例如视频图像，语音，自然语言处理，知识图等，并且针对内容理解，推荐，识别和其他高精度场景进行了优化。”据悉，Yunsui i10是支持PCIe4.0的单插槽标准卡，FP32计算能力为17.6TFLOPS，BF16 / FP16计算能力为70.4TFLOPS，并将于明年第一季度上市。同时，随缘科技发布了推理引擎“ TopsInference”。随缘科技的云培训产品已经商业化。今年9月，随缘科技（Suiyuan Technology）表示，“ Yunsui T10”由它组成的Doka分布式培训集群已落入云数据中心，并正式进入商业阶段。腾讯是随缘科技的重要合作伙伴。赵立东告诉CBN，两党