今天分享的是:大模型专题:端侧大模型近存计算,定制化存储研究框架
报告共计:67页
中邮证券发布的《端侧大模型近存计算,定制化存储研究框架》报告指出,大模型的发展推动端侧AI兴起,端侧AI市场规模预计从2022年的152亿美元增长到2032年的1436亿美元。存算一体技术为端侧AI大模型商业化落地提供支撑,其分为近存计算、存内处理和存内计算,不同技术适用于不同应用需求。NPU在端侧大模型中发挥关键作用,异构计算架构借助NPU、CPU和GPU等不同处理器优势,满足多样化AI用例需求,而先进封装技术则是实现异构计算架构的重要保障。华邦电子的CUBE技术是端侧近存计算的创新方案,专为边缘AI运算装置设计,采用3D堆叠与异质键合技术,具备高带宽、低功耗、紧凑尺寸和成本效益高的特点,能满足AI应用需求并可直接部署 。CUBE技术在架构上优化了SoC与DRAM的布局,降低成本和尺寸,制造上由多企业协同完成,其性能优势明显,如支持多种容量和堆叠方式、能效出色、IO速度快等,应用于AI - ISP和SoC L4 Cache等场景,还提供3DCaaS一站式服务平台。此外,报告介绍了相关企业在端侧大模型和定制化存储领域的布局,兆易创新积极开拓定制化存储方案,瑞芯微持续推进NPU助力端侧AI,芯原股份的NPU IP广泛应用,寒武纪提供云边端一体的智能芯片产品,国科微实现全系芯片标配NPU,北京君正不断研发NPU技术,全志科技深耕AI智能化应用市场,炬芯科技推出存算一体AI音频芯片,长电科技提供高端定制化封装测试解决方案,通富微电完善先进封装和测试布局,华天科技重点研发先进封装技术,甬矽电子在晶圆级封装和汽车电子领域持续发展,晶方科技基于TSV技术积极布局海外市场和新技术 。
以下为报告节选内容