推理成本一年降10倍、Token调用量暴增40倍 这家AI原生基础设施企业两年完成43亿元融资

东方网记者王佳妮10月12日报道:记者今天获悉,国内AI原生基础设施企业无问芯穹已完成C轮融资,融资金额23亿元。至此,这家成立仅两年多的公司累计融资额达43亿元,单轮及累计融资额双双创下中国AI原生基础设施(AI Infra)赛道的最高纪录。

值得关注的是,本轮融资背后,是“国资+产业+财务”三线资本齐聚的罕见阵容。国资方面,社保中关村基金、国开科创、中保投资、杭州高新金投等纷纷入局;产业投资方中,腾讯、百度、联想等科技巨头在列;财务投资机构则囊括红杉中国、启明创投、顺为资本、达晨财智等一线基金。多元资本的持续加注,被视作市场对中国AI原生基础设施赛道头部企业的集中投票。

无问芯穹成立于2023年,是清华大学与上海交通大学的科技成果转化企业。依托多元异构、软硬件协同和自主式AI三项核心技术,公司已形成"前店后厂一中心"的Agentic Infra战略布局,贯通算力资源、Token生产与行业应用三层价值链。

技术硬实力是资本押注的底气。据了解,无问芯穹算力集散中心目前已部署触达37000P算力,覆盖16种主流芯片。其发布的全球首个千卡规模异构芯片混训平台,实现了华为昇腾、天数智芯、沐曦、摩尔线程四种国产芯片分别与AMD、NVIDIA芯片的大模型混合训练,算力利用率最高达97.6%。此外,该企业还联合中国电信完成国内首例超4000公里大规模跨域混训验证,让新疆哈密与广东深圳两地的算力协同完成了300亿参数模型的训练任务。

在降本增效方面,无问芯穹的成绩单同样亮眼。过去一年,其Token工厂通过一系列原始技术创新,推动推理成本下降10倍;今年7月在世界人工智能大会上发布的跨集群异构PD分离架构,使首Token延迟降低51.5%,单Token成本下降37.5%。截至7月,公司大模型服务平台单日Token调用量较去年12月暴增40倍。目前,无问芯穹已与智谱、月之暗面等头部大模型企业达成合作,行业解决方案覆盖文娱游戏、医疗健康、法律服务、能源电力等领域。

本文来自大风号,仅代表大风号自媒体观点。