中国最强音
WAIC 上的推理芯片:爱芯元智的元曦系列_我的网站

一 | 芝能智芯出品 今年 WAIC 走到第八届,展馆里最热闹的场景悄悄换了主角。从前人群聚在某个大模型的炫技 demo 前,今年更多人主要来看机器人,当然大家也看看推理芯片。 大模型火了三年,算力长期被云数据中心攥在手里,今年一个明显的变化是,大家开始把推理往终端和边缘搬,本、延迟、合规三座山,逼着芯片公司重新排兵布阵,这恰恰是元曦出场的大背景。 爱芯元智带来了"元曦",面向大算力的 AI 推理系列公开亮相。

二 | 三层一拼,爱芯想覆盖的是从几十 TOPS 到上千 TOPS 的整条边缘推理光谱。 这种分层打法很务实:小场景用轻量卡低成本解决,大客户用千 TOPS 级算力在本地闭环跑核心业务,同一套软件栈往下能缩、往上能扩。 这个系列要解决的是大模型普及后被绑在云端的三处难受:Token 越用越贵,峰值算力顶不住并发,敏感数据出不了企业内网,让许多企业卡在"云上试点很香、规模铺开很疼"的阶段。

三 | 希望下次我们还能来到这里比赛。 爱芯把这句话的份量放在"从云端试点迈向边缘规模化落地"上,从前大家先在云上试试水,现在想把推理真正搬回自己的地盘常驻。”对于张帅来说,网球依然特别,依然值得去打个昏天黑地。

四 | 对中小微企业,一张轻量卡就能完成日常智能化;对政企和工业大客户,千 TOPS 级算力让核心数据就近运算,合规和成本一起兜住。

五 | 爱芯做混合精度 NPU 已有多年积累,从 第一代芯片就把自研 NPU 和 AI-ISP 一起推进商用,如今这套积累被搬到了大算力卡上。 它押注的"爱芯通元"能在 INT4、INT8、FP16 等不同精度之间灵活调度,访存效率更高,模型兼容更全。

六 | 来到33岁,张帅像是把自己翻了新的一页。 这句话展开说就是:同一个网络里,有的层用低精度省算力,有的层留高精度保精度,芯片自己排布,既不浪费也不丢准头。 对边缘大算力卡来说,显存和带宽才是命门:大模型权重动辄几个 GB,推理时还要留出放中间结果的缓存,显存不够就装不下,带宽不够就喂不饱算力,千 TOPS 标称只能干瞪眼。 元曦给的超大显存和超高带宽,作用就是把长文本推理、高清图像解析这类"吃 Token"的活,从云端拽回本地做。在当今的女子网坛,张帅成了一个特殊的存在。本赛季,张帅虽然成绩不是最出色的那一个,却一定是人缘最好的一个。从红土赛季开始,张帅在每站比赛都和新的选手组成搭档征战双打。 这也是爱芯反复提的"重构边缘 Token 经济",把推理留在企业自己的机房,云端开销和传输成本从源头压下来,数据还不用出门。

七 | ◎ 具身智能一块叫具身大脑控制器,1500 TOPS 算力,带宽约为行业旗舰的两倍,过了 AEC-Q100 车规级功能安全,还能自己写算子、原生跑世界模型和 VLA。

八 | ◎ 另一块是专用视觉感知芯片 AX8910,已经在多家双目相机里规模化落地,专门对付透明物体、纯白墙面、高反光这些传统视觉方案的软肋。从法网到温网的混双比赛,用张帅的话说,男选手排着队来邀请她打混双。 这两块合起来,把爱芯的老本行,自研 NPU 加爱芯智眸 AI-ISP,从物联感知摄像头延展到了机器人身上。 双目深度算法和 AX8910 的算力深度协同,让机器人能稳稳识别那些"看不清"的东西,正是具身智能规模化之前必须补的感知课。

九 | 从夜视摄像头到机器人眼睛,这条路爱芯走了好几年,技术积累前后一脉相承,并没有凭空冒出来的新故事。来到33岁,张帅原本也将自己归类于再打不动球的老球员一类。 Part 2 峰值标称和真实落地之间 还隔着几道坎 爱芯这条路线很连贯,从端侧视觉芯片起家,把自研 NPU 和 AI-ISP 两块硬骨头啃下来,如今顺着边缘推理的热潮把算力往上推,顺手切进具身智能。在今年草地赛季伯明翰站,张帅在单打和双打两线作战,全部杀入决赛。

十 | 两条自研引擎,是它和纯拼算力的玩家拉开距离的底气。在最后因体能耗尽无缘继续参赛后,张帅自嘲,自己作为33岁中国老阿姨,有些打不动了。这时她的对手,巴西选手玛雅说,“不,张帅,你是我见过最有活力的球员。” 从前的张帅,没有如今活得这般明白和通透。如今的她不再为了一个击球是好球还是坏球与裁判较劲儿,也不再为自己设立哪个球员当假想敌。

十一 | 如今的张帅只想不断地探索这个网球世界,利用有限的时间去取得更多的成就。 边缘大算力这张牌,桌上早坐满了人。今年温网,张帅再次获得了这个机会。在单打赛场,张帅连赢两轮,最终以32强结束单打赛事。

十二 | ◎ 华为昇腾在边缘盒领域市占约 23.5%, ◎ 寒武纪约 14.8%, ◎ 英伟达 Jetson 虽在国内份额下滑到 11% 出头,生态依旧扎实。

十三 | 在双打赛场,张帅和梅尔滕斯作为本届温网女双头号种子,向新的成就发起冲击。用张帅的话说,她此前还没能在温网的中心球场打一场双打半决赛。今年温网期间,张帅用实力实现自己的愿望。此前四轮,张帅组合不失一盘战胜对手打入决赛。2号种子克莱奇科娃/西尼亚科娃搭档时间很久配合默契,两人自2018年开始获得四次大满贯女双冠军,包括两次法网、一次温网和一次澳网。面对如此强劲的组合,张帅想要第三次问鼎大满贯女双冠军难度不小。 把爱芯放进这个牌桌看,它的位置更偏"边缘视觉推理"这一格,和主攻车载的地平线、主攻云边统一架构的寒武纪、全栈覆盖的昇腾都不完全重合。

十四 | 1000+ TOPS 是峰值标称,落到真实业务里,能效比、软件栈成熟度、模型适配的顺滑程度,才是客户最后掏钱的理由。 2025 年国产 AI 芯片出货已占国内四成,去英伟达化的势头明显,可生态从"能用"到"好用"还要熬,算子库、框架适配、工具链这些软功夫,比一颗芯片更难速成。最终张帅/梅尔滕斯两盘不敌状态更好的克莱奇科娃/西尼亚科娃获得亚军。对于张帅来说,职业网坛不仅没有变得如职场般熟悉又麻木,而且还翻开一页页新的篇章。本届温网张帅收获颇丰,打到单打32强和女双亚军的她获得25.5万英镑的奖金。在排名方面,张帅高居女双世界第二,有望本赛季成为世界第一。33岁的张帅仍在不断前行。

十五 | 文/本报记者 褚鹏
Current article:http://7mdmyy.wenwancaomohenenqiongpangshun.bond/list_ruw73b7/jna.html
Published on:14:23:26
