10月15日获悉,人工智能芯片企业后摩智能近日将公司总部落户北京,为北京人工智能和高性能芯片领域再添一支生力军。
一款机身仅手掌大小的联想AI(人工智能)主机,能流畅运行最高1220亿参数的本地大模型。一台国产全自主的中电长城笔记本,机身仅1公斤重,却可以流畅运行350亿参数的本地模型。这些大模型能在终端设备上流畅运行,与后摩智能研发的型号为M50的芯片分不开。
大模型进入笔记本电脑、手机、具身智能机器人等终端设备,需要芯片同时应对计算、存储与功耗的多重约束。传统芯片架构计算与存储分离,数据频繁搬运带来“存储墙”和“功耗墙”问题,难以同时满足端侧大模型对算力、存储与能效的要求。存算一体正成为破解这一约束的关键技术路径之一。
所谓存算一体,是指把计算单元与存储单元融合在一起,让数据在存储的地方直接参与计算,从而减少数据搬运、提升计算速度和能效。成立于2020年的后摩智能,其研发团队以SRAM-CIM为根技术,持续推进计算架构和封装技术创新,形成了2D CIM与3D CIM两条技术路径,分别面向更大容量和更大带宽的需求。公司将自身定位为“端侧免费词元工厂”的算力底座,希望用更低的能耗生产更多智能,让端侧词元的边际成本趋近于零。
后摩智能相关负责人此前透露,其M50芯片量产不到一年,已获150多个产品定点(“定点”是指芯片厂商的芯片产品被终端设备厂商正式选定,纳入其硬件设计方案中,准备量产使用),服务客户超百家。
北京经开区管委会副主任、北京市集成电路重大项目办公室主任历彦涛表示,以集成电路为核心的新一代信息技术产业已经成为北京经开区的第一大主导产业。后摩智能就是经开区重点引进的一家存算一体芯片骨干企业,为经开区构建“芯片+AI+智能终端”的融合创新格局注入了核心力量。
本文来自大风号,仅代表大风号自媒体观点。