- 高性能GPU/模拟接口设计平台

【导语】随着算法、芯片与场景深度融合，端侧AI计算已成为终端智能化核心引擎，在IoT领域推动设备进化，重塑家居、汽车、教育、安防等场景的智能体验。数据显示，我国移动物联网终端用户规模庞大，基于AI的物联网解决方案市场前景广阔。端侧AI芯片作为技术底座，正朝着高算力、高能效方向进化，打破终端对云端依赖，推动AI终端走向独立智能。然而，端侧AI发展仍面临算法适配、场景碎片化、成本控制等挑战。

随着算法、芯片、场景的深度融合，端侧AI计算正在化身为终端智能化的核心引擎，尤其是在IoT物联网领域，助推各类终端设备完成在AI浪潮下的精妙进化。从智家到智驾，从安防到教育，端侧AI正在重塑每一个终端应用场景的智能体验。放眼未来，随着RISC-V、可重构计算、存算一体等技术的持续突破，端侧AI赋能下的IoT终端生态有望真正实现“智能无处不在”的愿景。

“AI中枢”大显身手，重塑万物智联新生态

炎炎夏日，在一颗端侧AI控制芯片的帮助下，AI空调在实时感知人体位置及冷热状态之后，可以智能调节送风角度与温度，让用户舒爽；在自动识别无人状态之后，主动切换至高效的节能模式，为家庭省点。

开车途中，在端侧AI服务器的加持下，司机可以享受到智能座舱主动提供的多种服务：在车载AI助手的安排下，车内播放了驾驶员最爱的几首歌曲，导航系统自动调度出了回家最快捷的路线。

在校园、工地、餐饮等领域，搭载端侧AI芯片的AI边缘计算盒子设备正在大显身手：监测校园周边的逗留、徘徊、入侵等可疑人员；实时监测工程进展和工地安全情况，并发现存在的潜在风险；实时进行口罩/帽子佩戴、厨师服装穿着、鼠(shǔ)患(huàn)识(shi)别(bié)等监测和异常识别，提升餐饮企业的食品安全水平……

可以看到，在家居、汽车、教(jiào)育(yù)、安(ān)防(fáng)等(děng)领(lǐng)域，IoT终(zhōng)端(duān)智(zhì)能(néng)化(huà)正(zhèng)在(zài)迎(yíng)来(lái)一(yī)场(chǎng)以(yǐ)“端(duān)侧(cè)AI”为(wèi)核(hé)心(xīn)的(de)技(jì)术(shù)之(zhī)变(biàn)。在(zài)这(zhè)场(chǎng)革(gé)命(mìng)中(zhōng)，端(duān)侧(cè)AI芯(xīn)片(piàn)作(zuò)为(wèi)技(jì)术(shù)底(dǐ)座(zuò)与(yǔ)赋能核心，正悄然重塑终端产业的发展格局与路径。工信部相关数据显示，截至2024年7月末，我国移动物联网终端用户数达25.47亿户，占移动网终端连接数的比重达59%。中(zhōng)研(yán)普(pǔ)华(huá)预(yù)计(jì)，2025年(nián)基(jī)于(yú)AI的(de)物(wù)联(lián)网(wǎng)解(jiě)决方案市场规模将达5200亿元。今年3月，联想集团董事长兼首席执行官杨元庆表示，得益于算力与模型优化，端侧人工智能的进步速度将呈现指数级跃升，两者进步的叠加效应有望在未来12个月实现3倍的整体性能提升。他认为，算力和模型效率是驱动端侧AI性能的两个因素。拿前者来说，摩尔定律虽然停滞（也有人称之为失效），但当AI芯片重新激发市场活力，摩尔定律可能一点都不会停止，甚至会加速。

“在AI终端落地进程里，端侧AI芯片是绝对的‘中枢大脑’，承载着‘本地化算力供给、隐私数据保护、个性化体验塑造’三重使命。”清微智能联合创始人、产品工程VP李秀冬向《中国电子报》记者表示，从更宏观视角看，端侧AI芯片打破了智能终端对云端算力的过度依赖，降低了网络延迟与带宽限制，推动 AI 终端从“云端附庸”进化为独立、自主、智能的“本地伙伴”，这是AI在终端领域从概念走向普及的关键支撑。

从发展趋势来看，端侧AI正在朝着“高算力、高能效、即插即用”等方向进化，并在此过程中重塑终端生态，IoT领域也不例外。而支持这一变化的正是芯片的架构创新。

今年7月，从“存算一体”技术着手的后摩智能发布了全新的端边大模型AI芯片M50。与传统架构相比，适配了端侧与边缘设备“算得快又吃得少”的需求，该芯片的能效能提升5~10倍。这一变化有助于赋能笔记本、平板电脑、学习机等消费终端的本地推理能力，无需联网即可完成智能交互、内容生成等任务，用户隐私数据亦可闭环留存。后摩智能CEO吴强表示：“我们的目标(biāo)是让大模型算力像电力一样随处可得、随取随用，真正走进每一条产线、每一台设备、每一个人的指尖。”

IoT领域场景丰富、终端多元化，需要一套芯片有更高使用效率。清微智能提出“可重构芯片”的概念，亦是通过架构创新提升能效、进行多场景适配：在处理不同AI任务时（如教育场景(jǐng)中(zhōng)的(de)图(tú)像(xiàng)识(shi)别(bié)、自(zì)然(rán)语(yǔ)言(yán)处(chù)理(lǐ)），可(kě)灵(líng)活(huó)调(diào)配(pèi)算(suàn)力(lì)以(yǐ)降(jiàng)低(dī)功(gōng)耗(hào)；在(zài)场(chǎng)景(jǐng)适(shì)配(pèi)上(shàng)，一(yī)套(tào)芯(xīn)片(piàn)架(jià)构(gòu)适(shì)配(pèi)多(duō)样(yàng)场(chǎng)景(jǐng)需(xū)求，可(kě)根(gēn)据(jù)不(bù)同(tóng)应(yīng)用(yòng)切(qiè)换(huàn)计(jì)算(suàn)模(mó)式(shì)。“未(wèi)来(lái)终(zhōng)端(duān)会(huì)集成(chéng)更(gèng)多(duō)传(chuán)感(gǎn)器(qì)，需(xū)要(yào)芯(xīn)片(piàn)能(néng)够(gòu)协(xié)同(tóng)处(chù)理(lǐ)多(duō)源(yuán)数(shù)据(jù)，实(shí)现(xiàn)更(gèng)全面(miàn)、精(jīng)准(zhǔn)的(de)智(zhì)能(néng)感(gǎn)知(zhī)与(yǔ)决(jué)策(cè)。”李(li)秀(xiù)冬(dōng)表(biǎo)示(shì)。

端(duān)侧(cè)AI全“芯(xīn)”进(jìn)化(huà)，助(zhù)力(lì)物(wù)联(lián)终(zhōng)端(duān)升(shēng)维(wéi)革(gé)命(mìng)

在(zài)端(duān)侧(cè)AI计(jì)算(suàn)赋(fù)能(néng)下(xià)，终(zhōng)端(duān)设(shè)备(bèi)从(cóng)过(guò)去(qù)“被(bèi)动(dòng)执(zhí)行(xíng)命(mìng)令(lìng)”的(de)工(gōng)具(jù)，逐(zhú)渐(jiàn)转(zhuǎn)变(biàn)为(wèi)“主动(dòng)感(gǎn)知(zhī)、实(shí)时(shí)决(jué)策(cè)”的(de)智(zhì)能(néng)伙(huǒ)伴(bàn)。在(zài)李(li)秀(xiù)冬(dōng)看(kàn)来(lái)，从(cóng)核(hé)心(xīn)价(jià)值(zhí)看(kàn)，端(duān)侧(cè) AI 芯(xīn)片(piàn)将(jiāng)成(chéng)为(wèi)智(zhì)能(néng)终(zhōng)端(duān)的(de)“智(zhì)能(néng)灵(líng)魂(hún)”，不(bù)再(zài)局(jú)限(xiàn)于(yú)简(jiǎn)单(dān)的(de)数(shù)据(jù)运(yùn)算(suàn)，而(ér)是(shì)主动(dòng)学(xué)习(xí)用(yòng)户(hù)习(xí)惯(guàn)、环(huán)境(jìng)变(biàn)化(huà)，实(shí)现(xiàn)智(zhì)能(néng)交(jiāo)互(hù)的(de)自(zì)进(jìn)化(huà)。长(zhǎng)远(yuǎn)趋(qū)势(shì)上(shàng)，一(yī)方(fāng)面(miàn)是(shì)与(yǔ)边(biān)缘(yuán)计(jì)算(suàn)、云(yún)计(jì)算(suàn)深(shēn)度(dù)协(xié)同(tóng)，构(gòu)建(jiàn) “端(duān)-边(biān)-云(yún)”一(yī)体(tǐ)化(huà)智(zhì)能(néng)体(tǐ)系(xì)；另(lìng)一(yī)方(fāng)面(miàn)，面(miàn)向(xiàng)细(xì)分(fēn)行(xíng)业(yè)的(de)定(dìng)制(zhì)化(huà)芯(xīn)片(piàn)会(huì)成(chéng)为(wèi)主流(liú)。

端(duān)侧(cè)AI技(jì)术(shù)不(bù)断(duàn)下(xià)沉(chén)，推(tuī)动(dòng)物(wù)联(lián)网(wǎng)智(zhì)能(néng)终(zhōng)端(duān)领(lǐng)域升(shēng)维(wéi)发(fā)展(zhǎn)。在(zài)这(zhè)背(bèi)后，关键之处是端侧AI沿着“算力与能效协同、场景与芯片耦合、生态与标准构建(jiàn)”三(sān)条主线的持续进化。

一是算力与能效的协同进化。从传统架构到存算一体、可重构计算，端侧AI芯片设计思路正从“拼命堆算力”转向“精准配算力”。无论是清微智能的TX5系列还是后摩智能的存算一体M50，它们通过架构创新实现能效比提升数倍甚至十倍，让终端设备在有限功耗下实现复杂AI任务，真正让AI变得“可用、好用、用得久”。

二是场景与芯片的深度耦合。端侧AI芯片不再追求“一颗芯片走天下”，而是走向场景化、垂直化。

针对车载场景，瑞芯微布局智能座舱、车载仪表、车载视觉、车载音频、视频传输和协处理器六大领域，车载芯片覆盖10K DMIPS算力、20K、70K到300K的DMIPS算力，能对车机里的不同算力需求提供对应解决方案，其推出的高端车规级智能座舱芯片RK3588M适用于汽车仪表、智能座舱、中控系统和信息娱乐域控制单元（DCU）等多元应用场景。

面向智能穿戴场景，恒玄科技专注于低功耗无限计算SoC芯片(piàn)研(yán)发(fā)，为(wèi)端(duān)侧(cè)设(shè)备(bèi)提(tí)升(shēng)续(xù)航(háng)能(néng)力(lì)。其(qí)推(tuī)出(chū)的(de)BES2800系(xì)列(liè)芯(xīn)片(piàn)凭(píng)借(jiè)超(chāo)低(dī)功(gōng)耗(hào)架(jià)构与高度集成化设计，在多款耳机和智能手表、智能眼镜等终端中量产落地。这些理(lǐ)解(jiě)行(xíng)业痛点、精准定义应用场景的端侧AI芯片，让端侧设备的价值真正释放。

三是生态与标准的加速构建。RISC-V等开源架构的崛起，让中国企业在标准制定、生态建设上正逐渐赢得更多话语权，也为相关芯片企业提供了换道超车的机遇。

基于RISC-V 开放指令(lìng)集、构(gòu)建(jiàn)软硬一体解决方案，正成为端侧AI芯(xīn)片(piàn)的(de)主流路径。海思基于自研 RISC-V 内核推出应用于智能家电智能、工业控制领域的MCU芯片。比如，Hi3066M 芯片针对家电端侧智能化需求，内置eAI引擎，为空调、冰箱、洗衣机等家电带来AI节能、智能检测等创新应用，突破传统算法瓶颈。

特普斯微电子联合玄铁等IP企业推出了边缘AI推理系统级芯片EA6530。这是一款将高算力的推理 NPU、玄铁 C920 的双四核 CPU 集群、高性能媒体处理单元和配套存储及连接资源集成在一起的芯片，可支持多元化的、工业级的边缘AI推理应用。特普斯微电子市场总监杜云海表示，RISC-V 因生态成熟度等因素多应用于中低端嵌入式场景，现在随着玄铁等CPU厂商不断推出高性能的产品和建设完善的软件生态，高端边缘AI设备使用场景正快速增长。

另一家创新企业银河边缘科技有限公司推出了专为智能家电、工业控制等领域深度定制的端侧AI控制芯片RC605，采用全国产RISC-V内(nèi)核(hé)与(yǔ)NPU架(jià)构(gòu)，融(róng)合(hé)了(le)AI控(kòng)制(zhì)算(suàn)法(fǎ)与(yǔ)自(zì)适(shì)应变频控制算法。其核心亮点在于从实际应用场景出发，瞄准行业痛点，实现了家电智能化控制的全面升级，目前已在商用空调领域实现量产，可实现节能30%。

当前，欣欣向荣的端侧AI芯片正在加速推动IoT等领域迎来终端升级，不过在此过程中尚存一些需要继续攻克的挑战。李秀冬总结道，一是算法与芯片的适配难题，不同终端场景需要各异的AI算法，如何将复杂算法高效部署在端侧芯片上，确保性能与精度，是行业难题。二是场景的碎片化(huà)问题，市场上这对芯片的兼容性提出极高要求。三是成本控制与性能提升的矛盾。要让端侧AI芯片普及，必须平衡成本与性能。