深圳一家摄像头厂商把质检模型塞进边缘 AI 芯片后，单台设备时延从320毫秒降到47毫秒，误检率压到1.2%。产线工程师说，省掉工控机后每条线一年少花六万元。
深圳宝安一家智能摄像头厂商上个月把量检模子云端搬到了边沿 AI 芯片上边沿最新APP亚星，单台设备呼应时间320毫秒降还有47毫秒。误检率压还有1.2%。产线工程师陈默说，过去每条线要配一台工控机上传图片，如今摄像头模组里塞一颗指甲盖巨细的芯片就能跑。
省下的工控机芯片、布线和云流量费，按他的粗算，一年一条线少花六万元。那类革新正正在把边沿 AI 芯片Demo推还有量产了。过去两年，止业聊得最多的是抢滩算力堆到几TOPS吧？客户却常被工具链和模子适配卡住。今年一家国产芯片公司的销售告诉我，客户先问能不能跑7B模子，再问价格了。若是量化后精度掉逾越两个点，产线从毫计划间接出局。那个细节比任何公布会都申明成绩，边沿 AI 芯片的合做，曾经从纸面算力转背“跑得动、跑得稳、跑得起”。
智能座舱是时延另一个落地快的场景。华东一家Tier1把驾驶员监测算法放正在边沿计较芯片上，摄像头数据不出车的，提早波动正在60毫秒以内。它的项目经理提到，去年还要中挂一颗FPGA做预处理秒压秒，今年芯片本厂把NPU和ISP打包了，板子面积缩了三分之一。本钱一定立刻腰斩，BOM少一颗料了。对年出货百万级的车型就是实打实的利润到毫。省事也没少。边沿设备内存带宽一般几十GB/s吧？
跑量化模子时，算子调理一乱，理想帧率就掉。散热更理想。
工业现场夏天柜内温度能到60摄氏度了。芯片降频后，标称算力打七合其实不密罕。我见过一个团队为了压住功耗，把模子剪枝到本来的四成，精度只丢0.4个点。
反而比换更贵的芯片更划算。市场节拍果此变得奇妙。
云端锻炼仍被英伟达紧紧攥着的，边沿侧却冒出更多裂痕，安防、车载、工业量检、零售盒子。每个场景的模子和接口都纷歧样。芯片厂念通吃的，常常被项目定制拖慢；专注一两个场景的公司，反而能靠参考设念快速托付。一位投资人上周对我说，他如今看边沿芯片项目，先翻客户名单，再看流片记载，公布会PPT排。最后。
