电子发烧友网Elecfans公众号文章

让算力抵达现场:爱芯元智AX8860如何为物理AI时代作答

电子发烧友网报道(文/吴子鹏)过去几年,整个行业谈论 AI 算力时,坐标系是云端:更大的集群、更高的峰值、更长

电子发烧友网Elecfans

公众号 · 14 篇文章

电子发烧友网报道(文/吴子鹏)过去几年,整个行业谈论 AI 算力时,坐标系是云端:更大的集群、更高的峰值、更长的上下文。但当大模型、智能体和具身智能开始真正走进车间、仓库和产线,评价一颗芯片好坏的标准被彻底改写。

当 AI 的触角从数字世界伸向物理世界,一场深刻的算力变革正在发生。爱芯元智创始人&董事长仇肖莘博士表示,物理 AI(Physical AI)时代,性能、成本、功耗约束下的有效吞吐,才是企业需要的答案。只有这样,才能让智能抵达真实的物理现场。

图片
爱芯元智创始人&董事长仇肖莘博士
正是在这一理念下,2026 年的中国国际工业博览会(CIIF)上,以 “智造无界,算力抵达” 为主题亮相的爱芯元智,正式发布 AX8860 大算力边端 AI 芯片系列,并全面展示了面向真实物理世界的 AI 算力底座与产品矩阵。


物理 AI 时代的算力呼唤
从峰值内卷走向现场闭环

随着大模型、智能体和具身智能的持续发展,AI 正从处理文本、图像的信息世界,走向需要实时作用于真实物体的物理世界。物理 AI 的核心在于让智能体在真实的物理环境中进行自主感知、决策与执行。无论是高速产线上的微小缺陷检测,还是仓储物流中 AGV 的动态避障,抑或是具身智能机械臂的精细分拣,物理 AI 都打破了传统云端 AI 的 “一问一答” 模式,转而实现闭环处理,在现场做出决策。

仇肖莘博士认为,要实现现场智能的完整闭环,必须同时满足 “看得见、算得准、反应快、稳定执行” 四项要求:
  • 看得见:复杂现场环境下,准确感知缺陷、异常与目标,复杂光照、画面抖动都不造成干扰。
  • 算得准:多路并发与现场干扰下,依然保持稳定的判断质量,不漂移、不漏检。
  • 反应快:与产线节拍同步,决策不拖到下一帧;快,是现场的第一要求。
  • 稳定执行:判断直接驱动报警、分拣与机械臂动作,从 “看到” 到 “做到” 无需中转。

结论很直接:物理 AI 需要就近计算、推理,且速度一定要快。这也使得物理 AI 应用对算力芯片的要求和传统云端 AI 有着本质的区别。在极低时延的要求下,单一指标的 “暴力堆叠” 无法带来真实的推理吞吐量提升,木桶效应在边端大模型领域尤为突出。并且,相较于云端 AI,物理 AI 对低功耗的要求更加严苛。

面对这些挑战,仍然沿用云端 GPGPU 架构下放至边缘的方案,暴露出越来越多的不适应性。仇肖莘博士指出,峰值数据会骗人,但吞吐不会骗人。要实现真实有效吞吐,算力芯片需要在峰值算力、内存带宽和架构效率方面进行全面的优化,这也正是爱芯元智在 AX8860 上做的工作。


AX8860:为现场推理而生的大算力底座

作为专为大模型边端落地打造的大算力 AI 芯片,AX8860 的发布,是爱芯元智对上述核心要求的回应。

仇肖莘博士表示:“AX8860 是一款在各项设计指标上实现综合均衡的芯片,我们并未单一追求算力,也没有片面侧重功耗。这款产品在算力、带宽、内存容量与功耗之间做到了很好的平衡。如果孤立拔高某一项指标,就容易形成性能短板,而芯片整体性能恰恰由短板决定。”

AX8860 的核心性能优势,正是建立在这种系统级均衡之上:

硬指标:面向大模型的完整配置优化


在架构选择上,AX8860 采用了面向大模型深度优化的自研 NPU 架构。传统 GPGPU 架构在边缘 AI 推理场景下的计算单元利用率通常仅为 30%-40%,而爱芯元智面向大模型设计的架构时,算力利用率基本可达 80%。在同等峰值算力条件下,Prefill阶段性能能够实现2倍提升。

从具体的参数来看,AX8860 采用 6nm 先进制程,集成 256 TOPS 混合精度算力(原生支持 FP4)与 273 GB/s 内存带宽,并配备 128 GB LPDDR5X 大容量内存。

仇肖莘博士强调,这样的参数配置并非 “拍脑袋得出”。在这颗芯片进行定义的时候,爱芯元智团队观察到一个关键趋势:大模型正在持续轻量化,过去云端需要千亿、万亿参数模型才能达到的推理精度,借助边缘端的轻量化模型也能够实现。因此,团队给 AX8860 的研发设定了两项硬性指标:其一是原生支持 8B、9B、27B 模型,这是边缘 AI 落地最广泛的模型地带;其二是 2k token 吞吐满足 30 Token/s 的可用门槛 —— 低于这个数,交互体验不成立。基于这套自研的性能需求指标,再开展多轮仿真验证,最终确定芯片所需的算力与带宽规格。

测试数据显示,在大模型推理的两个关键阶段(Prefill 与 Decode),AX8860 实现与国际头部 GPU 产品的双重对标。能效比更是取得了显著的领先,在峰值负载下,AX8860 的功耗仅为国际头部竞品的 45%。

互联与扩展:AXLink 技术突破边缘算力天花板


物理 AI 的算力需求是分层的 —— 不同应用场景需要的算力可能差一个数量级。因此单芯片性能之外,扩展能力同样关键。

在互联与扩展层面,该芯片支持 AXLink 级联技术与 PCIe 5.0 高速互联,为多芯片协同和算力弹性扩展奠定基础;同时,64 路视频解码与 16 路视频编码能力可轻松适配多路视觉感知与视频分析任务。

爱芯元智采用AXLink互联技术,可以高效的聚合芯片算力和内存带宽。AXLink 提供高带宽芯片间互联,将 DDR 访问延迟控制在合理区间,支撑芯片级联下的内存池化。

基于 AXLink,AX8860 支持 2 芯、4 芯 C2C 互联,双芯级联可达 512 TOPS,四芯级联可实现 1024 TOPS,扩展效率约 80%。这意味着客户可以从单芯片的 256 TOPS 起步,根据业务增长平滑扩展至千 TOPS 级别,而无需重新设计系统架构。

围绕 AX8860,爱芯元智同步发布元曦模组 A256S,并亮相元曦系列推理卡和推理服务器。A256S 采用模块化设计,具备体积小、算力强、落地快等特点,支持 LLM、VLM 和 Omni 等多类模型应用,能够为核心算力与应用硬件之间提供更灵活的组合方式,帮助客户加速产品研发落地。

图片


软件工具链
把算力变成生产力

随着 AX8860 系列的发布,爱芯元智已构建起覆盖小算力到超大算力的完整产品矩阵,单芯片算力覆盖十几 TOPS 到大几百 TOPS。从芯片、核心模组到推理卡、推理服务器,以连续供给、无断档的产品组合,帮助客户沿统一技术路线扩展算力,减少重复选型和系统迁移成本 —— 客户不必反复面对算力选择题。

仇肖莘博士表示,爱芯元智对自身业务边界做了明确界定:只专注芯片研发,不涉足上层算法开发,保持 “不站队” 的中立定位。这样做让算法厂商可以安心合作,不用担心爱芯未来切入算法业务形成竞争。在行业普遍宣传端到端方案的背景下,爱芯元智坚持软硬解耦:终端客户更倾向自主选定算法,同时拥有易用的硬件平台,避免被单一供应商锁定、保留选择权。

“我们要做客户长期稳定的算力底座,让企业聚焦业务创新,不用为算力迁移分心。爱芯元智致力于让智能抵达每一个现场,AX8860 系列大算力芯片的发布,正是这一承诺的兑现。” 她进一步讲到。

当然,算力硬件只是底座,能否把模型快速跑起来,才是边端 AI 落地的关键。CIIF 2026 上,爱芯元智系统性地展示了全栈 AI 软件工具链,真正做到了 “大模型 + 小模型” 全面支持,极大降低了部署门槛:
  • Pulsar2 模型编译器:实现 “转换→量化→编译→部署” 自动化,小模型 5 步即可上板,CV / 多媒体模型开箱即用。
  • 大模型推理一键部署:通过 torch.axera 原生适配 vLLM/SGLang 等主流框架,DeepSeek、Qwen 等主流大模型已开箱可跑,并支持多芯分布式扩展。
  • AXDSL 自主 Kernel 开发:支持用 Python 原生语法编写 NPU 算子,开发者无需依赖底层 C++ 即可实现自研算子的高效并行与调优。
  • 极速适配与开源繁荣:面对层出不穷的新模型,爱芯元智展现了突出的适配速度 —— 简单模型 1 天上板,复杂模型 1 周完成。目前已有 260 + 模型完成部署,100 + 开源仓库与 300 + 开箱模型在 Hugging Face/ModelScope 开放,真正做到了 “只要有开源模型,就能在我们的平台上跑”。

具体到 AX8860 系列的软件资源,这套工具链可支持 vLLM、SGLang、PyTorch 等主流推理框架与开发环境,并提供兼容 OpenAI API 的服务接口。同时,产品配套覆盖量化、转换、编译、Profiling 及调试在内的完整工具链,帮助用户降低模型迁移和应用落地门槛,实现 “开箱即用”。


结语

“算力不必远在天边,智能就该近在眼前。” 这是爱芯元智在此次工博会上给出的答案。在物理 AI 时代,数据在何处产生,计算便在何处发生;判断于现场即时完成,指令直接触达设备。对终端系统而言,从 “看见问题” 到 “判断问题” 再到 “采取行动” 的链路被大幅压缩,生产系统得以从被动响应迈向更实时、更协同、更自主的生产范式。

爱芯元智要做的,正是成为客户长期稳定的算力底座,让企业聚焦业务创新,不用为算力迁移分心。让智能回到事情发生的地方 —— 这或许是物理 AI 时代,一家边端算力厂商最笃定的方向。

前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →