近日,复旦大学和绍芯实验室存算一体技术中心联合团队研制了两款存算一体(CIM)AI芯片,分别为OA-CIM和Hairuo。据悉,这两款芯片能“记”又能“算”,还能大大降低能耗,有望在AI时代大放光彩。
据介绍,存算一体芯片通过将存储单元与计算单元集成在同一芯片内,大幅降低数据搬运产生的功耗与延迟,是突破传统计算瓶颈的关键路径。近年来,因AI算力需求激增,该类型芯片成为研究热点。但面对大型语言模型的复杂计算需求,现有存算一体芯片设计在精度、能效和离群值处理等方面仍面临显著挑战。“这两款芯片分别从提升性能、降低能耗入手,为存算一体技术以及相关产业领域发展提供支持。”绍芯实验室有关人士表示。
团队研制的OA-CIM支持“浮点定点混合精度计算”,相当于一个“计算高手”。测试表明,OA-CIM在运行大型语言模型推理任务时,性能较普通存算一体芯片提升2.7~3.1倍。Hairuo则可以称为“减耗专家”。当前,机器人产业成为热点,在一些应用场景下,机器人需要“像人一样思考和工作”,而构成其“神经网络”的计算硬件,需要对于新的任务具备学习、适应能力,这对于芯片性能提出了更高的需求。存算一体芯片可通过紧密的集成存储和计算,减少数据延迟和能耗,其中,高密度、高能效RRAM存算一体技术为大规模的低功耗计算提供了支持。不过,RRAM存算一体技术耐久性有限。与之相比,Hairuo可支持“微调和”训练,通过优化细粒度,使得芯片实现高效微调,从而减少了RRAM存算一体技术的能耗。
业内专家蔡一茂指出,新兴的存算一体和近存计算技术能大大提高数据处理和计算效率,同时有效降低成本,未来有着极大发展空间。预计2030年全球存算一体技术市场规模可达260亿美元,年复合增长率达148%。
作者: 编辑:严心愉