文章正文

中国最强音

WAIC 上的推理芯片:爱芯元智的元曦系列_我的网站

金牌调解

一 |     芝能智芯出品                    今年 WAIC 走到第八届,展馆里最热闹的场景悄悄换了主角。从前人群聚在某个大模型的炫技 demo 前,今年更多人主要来看机器人,当然大家也看看推理芯片。                   大模型火了三年,算力长期被云数据中心攥在手里,今年一个明显的变化是,大家开始把推理往终端和边缘搬,本、延迟、合规三座山,逼着芯片公司重新排兵布阵,这恰恰是元曦出场的大背景。                   爱芯元智带来了"元曦",面向大算力的 AI 推理系列公开亮相。    

当地时间7月10日,张帅(右)和梅尔滕斯在颁奖仪式上 供图/视觉中国北京时间7月11日凌晨,在2022温网女双决赛中,张帅搭档梅尔滕斯2比6、4比6不敌2号种子克莱奇科娃/西尼亚科娃组合,张帅无缘赢得首个温网女双冠军,也未能获得个人的第三个大满贯冠军。不过,在赛后的颁奖仪式,张帅在致辞中说:“第一次打进温网决赛,对我来说真的非常特别。                   过去几年,这家公司给人的印象更多停留在端侧视觉:物联感知摄像头里那颗能夜视、能识别的芯片。                             Part 1           发布了什么:     元曦和边缘推理                    元曦系列里最打眼的是 A 系列 AI 推理卡。官方给出的是超 1000 TOPS 的推理算力,配上超大显存和超高显存带宽。谢谢埃莉斯带我进了中央球场。祝贺芭芭拉和卡特琳娜,你们打得棒极了。                   光看数字没感觉,把它放进爱芯自己的产品梯队里就好懂了:                    ◎ 底下是已经规模落地的 M.2 算力卡,巴掌大小,塞进工业设备就行;                    ◎ 中间是标准化核心模组,给整机厂做二次开发;                    ◎ 顶端就是这次新揭的 A 系列,专门啃高并发、高负载的硬骨头,比如机房集群、多路视频分析、私有化知识库。

二 |                    三层一拼,爱芯想覆盖的是从几十 TOPS 到上千 TOPS 的整条边缘推理光谱。                   这种分层打法很务实:小场景用轻量卡低成本解决,大客户用千 TOPS 级算力在本地闭环跑核心业务,同一套软件栈往下能缩、往上能扩。                   这个系列要解决的是大模型普及后被绑在云端的三处难受:Token 越用越贵,峰值算力顶不住并发,敏感数据出不了企业内网,让许多企业卡在"云上试点很香、规模铺开很疼"的阶段。

三 | 希望下次我们还能来到这里比赛。                   爱芯把这句话的份量放在"从云端试点迈向边缘规模化落地"上,从前大家先在云上试试水,现在想把推理真正搬回自己的地盘常驻。”对于张帅来说,网球依然特别,依然值得去打个昏天黑地。

四 |                    对中小微企业,一张轻量卡就能完成日常智能化;对政企和工业大客户,千 TOPS 级算力让核心数据就近运算,合规和成本一起兜住。

五 |                              爱芯做混合精度 NPU 已有多年积累,从 第一代芯片就把自研 NPU 和 AI-ISP 一起推进商用,如今这套积累被搬到了大算力卡上。                   它押注的"爱芯通元"能在 INT4、INT8、FP16 等不同精度之间灵活调度,访存效率更高,模型兼容更全。

六 | 来到33岁,张帅像是把自己翻了新的一页。                   这句话展开说就是:同一个网络里,有的层用低精度省算力,有的层留高精度保精度,芯片自己排布,既不浪费也不丢准头。                   对边缘大算力卡来说,显存和带宽才是命门:大模型权重动辄几个 GB,推理时还要留出放中间结果的缓存,显存不够就装不下,带宽不够就喂不饱算力,千 TOPS 标称只能干瞪眼。                   元曦给的超大显存和超高带宽,作用就是把长文本推理、高清图像解析这类"吃 Token"的活,从云端拽回本地做。在当今的女子网坛,张帅成了一个特殊的存在。本赛季,张帅虽然成绩不是最出色的那一个,却一定是人缘最好的一个。从红土赛季开始,张帅在每站比赛都和新的选手组成搭档征战双打。                   这也是爱芯反复提的"重构边缘 Token 经济",把推理留在企业自己的机房,云端开销和传输成本从源头压下来,数据还不用出门。

七 |                              ◎ 具身智能一块叫具身大脑控制器,1500 TOPS 算力,带宽约为行业旗舰的两倍,过了 AEC-Q100 车规级功能安全,还能自己写算子、原生跑世界模型和 VLA。

八 |                    ◎ 另一块是专用视觉感知芯片 AX8910,已经在多家双目相机里规模化落地,专门对付透明物体、纯白墙面、高反光这些传统视觉方案的软肋。从法网到温网的混双比赛,用张帅的话说,男选手排着队来邀请她打混双。                   这两块合起来,把爱芯的老本行,自研 NPU 加爱芯智眸 AI-ISP,从物联感知摄像头延展到了机器人身上。                   双目深度算法和 AX8910 的算力深度协同,让机器人能稳稳识别那些"看不清"的东西,正是具身智能规模化之前必须补的感知课。

九 |                    从夜视摄像头到机器人眼睛,这条路爱芯走了好几年,技术积累前后一脉相承,并没有凭空冒出来的新故事。

来到33岁,张帅原本也将自己归类于再打不动球的老球员一类。                   Part 2           峰值标称和真实落地之间     还隔着几道坎                    爱芯这条路线很连贯,从端侧视觉芯片起家,把自研 NPU 和 AI-ISP 两块硬骨头啃下来,如今顺着边缘推理的热潮把算力往上推,顺手切进具身智能。在今年草地赛季伯明翰站,张帅在单打和双打两线作战,全部杀入决赛。

十 | 两条自研引擎,是它和纯拼算力的玩家拉开距离的底气。在最后因体能耗尽无缘继续参赛后,张帅自嘲,自己作为33岁中国老阿姨,有些打不动了。这时她的对手,巴西选手玛雅说,“不,张帅,你是我见过最有活力的球员。” 从前的张帅,没有如今活得这般明白和通透。如今的她不再为了一个击球是好球还是坏球与裁判较劲儿,也不再为自己设立哪个球员当假想敌。

十一 | 如今的张帅只想不断地探索这个网球世界,利用有限的时间去取得更多的成就。                   边缘大算力这张牌,桌上早坐满了人。今年温网,张帅再次获得了这个机会。在单打赛场,张帅连赢两轮,最终以32强结束单打赛事。

十二 |                    ◎ 华为昇腾在边缘盒领域市占约 23.5%,                    ◎ 寒武纪约 14.8%,                    ◎ 英伟达 Jetson 虽在国内份额下滑到 11% 出头,生态依旧扎实。

十三 | 在双打赛场,张帅和梅尔滕斯作为本届温网女双头号种子,向新的成就发起冲击。用张帅的话说,她此前还没能在温网的中心球场打一场双打半决赛。今年温网期间,张帅用实力实现自己的愿望。此前四轮,张帅组合不失一盘战胜对手打入决赛。2号种子克莱奇科娃/西尼亚科娃搭档时间很久配合默契,两人自2018年开始获得四次大满贯女双冠军,包括两次法网、一次温网和一次澳网。面对如此强劲的组合,张帅想要第三次问鼎大满贯女双冠军难度不小。                   把爱芯放进这个牌桌看,它的位置更偏"边缘视觉推理"这一格,和主攻车载的地平线、主攻云边统一架构的寒武纪、全栈覆盖的昇腾都不完全重合。

十四 |                    1000+ TOPS 是峰值标称,落到真实业务里,能效比、软件栈成熟度、模型适配的顺滑程度,才是客户最后掏钱的理由。                   2025 年国产 AI 芯片出货已占国内四成,去英伟达化的势头明显,可生态从"能用"到"好用"还要熬,算子库、框架适配、工具链这些软功夫,比一颗芯片更难速成。最终张帅/梅尔滕斯两盘不敌状态更好的克莱奇科娃/西尼亚科娃获得亚军。对于张帅来说,职业网坛不仅没有变得如职场般熟悉又麻木,而且还翻开一页页新的篇章。本届温网张帅收获颇丰,打到单打32强和女双亚军的她获得25.5万英镑的奖金。在排名方面,张帅高居女双世界第二,有望本赛季成为世界第一。33岁的张帅仍在不断前行。

十五 | 文/本报记者 褚鹏

。                   发布会到规模化商用之间,还隔着客户认证、可靠性验证和量产爬坡几道硬坎,工业与车载客户的认证周期往往要 12 到 24 个月,一旦导入订单能续好几年,反过来说,进不去也就久久进不去。                   对爱芯而言,元曦的显存带宽和自研 NPU 是加分项,可要把这套硬件变成客户手里"插上就能跑"的方案,软件与生态的功课才刚开篇。爱芯把元曦亮出来,是这场芯片聚会里一个清晰的信号:边缘推理的仗,已经从"有没有"打到了"好不好用"。                   顺着这条线看,端侧算力卡今年需求暴涨并非偶然,工业质检、车载域控、智慧物联感知都在把模型往本地搬,单条产线就要几张到几十张卡,国产替代率已摸到四成。                   谁能在能效、价格和软件体验上先立住,谁就拿到下一段增长的门票。这股势能背后,是"物理 AI"从概念走向产线的真实节奏,算力要落到设备、机器人和产线这些实体上,才算真正兑现价值,而边缘推理卡正是那块最基础的垫脚石。                    小结                    WAIC 的芯片聚会一年比一年热闹,爱芯元智这次把元曦掀开一角,亮出的是一条从摄像头走到机房、再伸向机器人的算力路线。

Current article:http://7mdmyy.wenwancaomohenenqiongpangshun.bond/list_ruw73b7/jna.html

Published on:14:23:26


|