不久前,长鑫科技过会,外界普遍预计上市后的市值或超万亿元,这也有望让合肥的A股总市值从1.5万亿冲到3万亿以上,超过广州、杭州,成为全国第四。

“成功的花,人们只惊羡她现时的明艳”,然而合肥的芯片故事还不止于此。

过去十年,合肥干了几件关于芯片制造的大事:除了长鑫科技的存储芯片外,还有做晶圆代工的晶合集成,目前已经在科创板挂牌。

再往下游看,颀中、汇成、沛顿、通富微电等封测企业也是扎堆合肥,上游还有芯碁微装、欣奕华、安德科铭,在设备和材料领域补缺口。

不过,合肥还不满足。

随着AI大模型的兴起,合肥敏锐地发现:未来芯片产业链上还缺一个环节,一个专为端侧Ai而设计的芯片。

现在市面上的芯片,包括英伟达的GPU在内,本质上都不是为了AI而生的,即便英伟达后续加入了Tensor Core、Transformer Engine等专门单元,但底层架构依然是GPU的底子,本质上是“为图形设计,被AI改造”。

那么,有没有一家企业专门为AI开发芯片呢?

近日,端侧AI推理芯片企业聆思科技完成近5亿元B轮融资。本轮融资由安徽省与合肥市多家国资平台联合战略领投,深报一本、盈科投资、天智投资、永鑫方舟、东瑞投资等一线资本跟投,其中多家为老股东持续加注。

在存储(长鑫)这张牌之后,合肥敏锐地意识到,下一个风口:

就是“端侧智能”。

过去两年,大模型行业最热闹的事就是卷参数:

千亿、万亿,一个比一个大,可到了今年,风向已经变了。

行业共识已经从“模型越大越好”,转向了“模型落地越快越好”,大模型的下一阶段,终究是和实体硬件的融合。

为什么现在机器人、AI PC、智能座驾、全屋智能等赛道火热?因为这些硬件,才是大模型从“炫技”走向“干活”的出口,是消费者最常接触到的产品。

但要让大模型走进终端产品,首先要解决一个现实矛盾:现在绝大多数的智能设备,都是通过云端来获取智能,这种“云寄生”架构带来了三重瓶颈:

一是离线能力的缺失。

设备在弱网、断网场景下,智能能力瞬间坍缩,从“智能终端”退化为“哑终端”。对于智能家居、车载、工业巡检等需要持续在线感知的场景,这种环境适应性断裂,是终端体验升级的最大短板。

2025年5月,国内某知名车企App就出现了一次大规模服务异常,导致远程启动失效、电子钥匙失灵、车窗无法远程关闭、空调预设失效,数百位车主在早高峰集体陷入数字断联。

二是实时性的刚性约束。由于物理限制,目前端到端往返时延仍难以压缩到毫秒级以内。对于智能座舱内的多轮语音交互、机器人的实时避障与路径规划,这种传输延迟直接破坏了交互的自然感与连续性,会导致体感断层。

三是推理成本的规模不经济,长期高频调用云端大模型,每一次推理都对应Token计费。一台日均交互上百次的AI PC或智能座舱终端,一年的使用成本很可能超过买硬件的成本,这种“边际推理成本不可收敛”的经济模型,从根本上限制了端侧智能的规模化普及。

这对规模化落地的智能终端来说,是一笔无底洞,消费者也很难愿意持续投入。再加上数据隐私、网络安全等问题,行业愈发清楚地认识到:

大模型要真正走进千家万户,需要从云端走下来,和终端设备深度结合。

这就是“端侧大模型”诞生的逻辑:把大模型的推理能力直接塞进一颗芯片里,让设备在本地就能完成理解、推理和决策。

摩根士丹利Edward Stanley团队在2024年的研报里就做出了判断:

端侧AI将在2024年下半年和2025年成为消费电子市场的“中心舞台”,继手机之后,AI笔记本也将迎来爆发,到2025-2026年AI PC渗透率将从2024年的8%一路飙到30%和50%,仅这一项就给全球半导体公司带来约300亿美元的收入增长。

所以最近1-2年,很多头部科技公司都在花大精力去研究端侧芯片。

苹果在2024 WWDC就把Apple Intelligence的底座直接钉在端侧库克的原话是:“Apple Intelligence是iPhone史上最大的软件平台变革之一”,在苹果设计架构上,AI的主力应该跑在端侧(A17 Pro/M4及以上NPU),只有需要更大模型的才走私有云计算,端侧能跑的,绝不送云。

2025年,苹果继续加码NPU算力,把“端侧跑大模型”做成MacBook和iPhone的卖点。

到了2026年,英伟达的黄仁勋也宣布进军PC处理器市场,宣布联手微软、Arm、联发科推出RTX Spark平台,Omdia的分析师当时的点评是:

“英伟达入局PC,是端侧AI爆发的起点和风向标,AI推理时代就此全面开启”。

据悉,聆思科技的本轮募资,也是剑指新一代端侧大模型AI推理芯片研发,推动聆思首颗端侧大模型AI推理芯片Nebula系列的问世(计划于2026年底正式推出),为端侧大模型在机器人、AI PC、智能座舱、全屋智能等终端场景中的规模化部署提供核心算力支撑。

方向对了,还得看具体的投资,合肥为什么选中了聆思?

原因是这家企业已经在端侧AI芯片这个赛道上跑了很久,而且跑出了成绩。

先说几个数字,聆思累计出货量已经超过亿颗级别,在端侧NPU芯片行业,能跑到这个量级的公司,一只手数得过来。

再看技术路线,聆思的选择和多数芯片公司不太一样。

国内做端侧AI芯片的企业不少,传统芯片公司走的路线一般是“算法适配芯片”,先做通用芯片架构,再把AI算法往上面搬,效率低、功耗高;聆思走的是另一条路:芯片算法协同设计,从算法源头去倒推芯片架构,尽可能提升算力的效率。

聆思目前的神经处理单元(NPU)算力利用率能做到80%,而行业平均水平只有30%-50%。

这就意味着同样的标称算力,聆思能在终端设备上跑出别人5-10倍的算法效果,这对家电、车载、教育硬件这类在乎成本和功耗的场景,几乎是决定性优势。

其实海尔、美的这些白电龙头都大量采购聆思的芯片产品,特别是在蓝牙语音交互领域,聆思市占率已经是行业第一。家电行业单品价格低、出货量巨大、对成本和功耗非常挑剔,能在这块站稳头部,足见聆思的功力。

视觉则是聆思近几年跑出来的第二条曲线。

过去,视觉芯片的采购大户,一般是安防企业,这个赛道目前已经非常成熟,但聆思没去红海里硬挤,他们是把视觉和AI结合,融入到了教育、消费电子、智能家居这几个新兴场景里,顺利趟出了一片蓝海。

比如教育硬件扫读笔,消费电子里的手持云台、运动相机,智能家居里的智能门锁、扫地机,这些场景过去要么用通用芯片凑合、要么依赖云端,当聆思把本地视觉AI能力塞进去之后,离线人脸识别、手势控制、人体追踪这些功能已经可以在低功耗设备上跑起来,且应用方案已经被多家头部品牌采用,出货量稳居前列。

简单来说,在“让设备听懂人话、看清世界”这两件事上,聆思已经是行业里最能打的公司之一。

本轮融资,聆思想做的端侧大模型AI推理芯片,是在语音和视觉能力基础上的又一次升级,让终端设备不仅能“听懂、看清”,还能“理解、推理”。

但这条路没那么好走。

行业里都知道,端侧跑大模型有三堵墙:内存墙、功耗墙、成本墙。

云端GPU芯片功耗动辄几百瓦,散热靠液冷,成本上万,直接搬到终端设备上根本不现实。可市面上现有的端侧AI芯片,大多还是为传统机器学习模型设计的,跑CNN、RNN还行,一上Transformer类的生成式大模型,适配就变得非常困难、能效比也很惨淡。究其原因,就是因为目前市面上没有一颗芯片是真正为大模型去开发的。

聆思想从这个根上解决问题,做了三件最核心的事。

第一件是用3D-DRAM堆叠技术,突破了传统HBM技术在端侧部署中的限制,让内存带宽能做到现有方案的数倍甚至十倍以上,实现大容量内存的存算一体,推理性能和能效比因此能实现跨越式提升。

值得一提的是,这颗芯片将基于长鑫3D DRAM工艺进行晶圆键合生产,这是两家合肥本土企业在存储和推理两个环节的第一次深度握手。

第二件是深耕芯片算法的软硬协同,过去十年的端侧AI芯片,主要是为CNN(卷积神经网络)时代设计的。那时候的任务仅仅是图像分类、目标检测、语音唤醒,模型小、计算密集、NPU只要把乘加单元堆够、把卷积算子硬化,就能跑得不错。

但大模型换了一套玩法,Transformer架构的计算每层都要搬权重,序列长、算子形态多变,老NPU跑CNN是“小马拉小车”,跑Transformer就成了小马拉大车,而聆思研发的Nebula芯片搭载了面向大模型推理设计的AI原生NPU,从大模型的算法特性出发反向定义计算架构,让NPU更懂Transformer类计算,同样的算力标称值,Nebula能跑出更高的有效吞吐和更低的延迟。

基于这两项核心创新,Nebula系列芯片预计可实现10倍计算加速性能提升、10倍模型参数规模支持,推理速度超过100 tokens/s,在性能、能效比和体积等维度上达到全球领先水平。

第三件事,是把芯片做成“套餐”,让客户拿回去就能用。

芯片不只是硬件,还要配套成熟的工具链、SDK和参考设计,出货量高达1.5亿片的聆思很清楚,客户需要的是一个开箱即用的产品,所以它们会在出货之前就帮客户做好移植和适配工具。

在市场端,聆思科技目前已联合联想、聆动机器人、海尔、美的、面壁等企业,在AI PC、机器人、智慧家庭、智能座舱四大方向启动联合预研,推动端侧大模型AI推理芯片在真实终端场景中的产业化落地。

芯片公司上市,一级市场看三件事:

赛道、位置、故事。

首先,赛道要在对的时间口上。今天的端侧大模型芯片不是“要不要做”,是“必须做”。

因为机器人、AI PC、智能座驾、全屋智能这些赛道的产品需要算好三笔账。

第一笔账,叫“离线可用性”。车进隧道、智能家居断Wi-Fi切4G、机器人进电梯、户外割草机跑到小区边缘……这些场景里,在线很难做到,离线能干活才是常态。

第二笔账,叫“隐私与合规”。家庭对话、车内谈话、儿童陪伴数据、老人看护影像,这些过去被送到云端处理的敏感数据,现在越来越多地被监管和用户双重审视。特别是《数据安全法》《个人信息保护法》落地后,车企、家电厂、教育硬件厂商都要主动把“数据本地处理”写进产品定义,所以现在“数据不出设备”正在从一个加分项,变成招投标和出海认证里的硬门槛。

第三笔账,叫“成本收敛性”。云端大模型按Token计费,交互频次只会涨不会跌,对整机厂来说,这就是个“越智能越亏损”的经济模型,而端侧芯片的逻辑是反过来的:一次性成本摊下去,后面推理次数越多越划算,这才是规模化部署能跑通的经济模型。

所以说聆思的产品非常契合未来智能硬件的发展趋势,按照一些机构的预测,未来三五年是百亿级出货量的逻辑。

其次,位置要卡得刁。国内能做端侧AI芯片的不止聆思,但聆思的累计出货已经跑到亿颗级,覆盖家电、语音、教育硬件这些“苦活累活”的赛道,能在这些赛道里活下来、持续出货,本身就是最好的资质证明。

况且聆思的芯片打法是从底层重新设计,内存带宽拉到现有方案的数倍甚至十倍以上,真正让端侧大模型能跑得动、跑得久、跑得不烫。

还有一点被很多人低估了,合肥国资投聆思,不只是给钱,更是给了场景。

合肥有什么?有全国家电产业最集中的集群,美的、海尔在合肥都有大规模生产基地;还有新能源汽车的头部玩家、显示面板的龙头企业,这些下游场景,就是聆思芯片最直接的“出货口”。

目前,国产芯片面临严重的“卡脖子”问题,企业用英伟达,贵、供货不稳,用高通,高通又不愿意给国产整机厂去做深度定制。

国资进来,意味着聆思不仅有了长周期的资金支持,可以按产业节奏慢慢打磨产品,还可以牵线搭桥,让聆思的芯片更容易进入合肥系终端厂商的供应链,这就能让它的估值比“纯消费电子芯片公司”高1-2倍。

最后,是想象空间要足够大。

长鑫讲的故事是“中国存储从0到1”,聆思是这个故事的另一个补充,地基有了,接下来就是让AI进家电、进车、进机器人,这是一条更长、更肥、更能出货的链条。

回头看合肥这十年投的芯片项目,逻辑一直很清晰:

长鑫,把“存储”立住;晶合集成,把“晶圆代工”立住,现在轮到“端侧智能”,让AI从云端走下来,走进最广大消费者的智能家居、车、终端设备里,让中国做的芯片,被全世界采购,而且还能赚到钱。

这三步,一步比一步更接近“出货和现金流”,也一步比一步更靠近最终消费者。

合肥半导体板块的“头雁”已经飞起来了,现在需要的是“接力雁”,一个能把长鑫的存储、晶合的代工、下游的家电、汽车、智能终端串成一条真正可出货、可变现的链条环节。

长鑫打地基,聆思盖房子,接力有序,合肥的芯片故事才更完整。