【导语】2023年，边缘计算领域迎来了大模型开源化的新变革，为规模化应用提供了重要支撑。视觉物联在《2025边缘计算市场调研报告》中发现，大模型一体机成为热(rè)门(mén)产(chǎn)品(pǐn)，但(dàn)边(biān)缘(yuán)设(shè)备(bèi)算(suàn)力(lì)等(děng)限(xiàn)制(zhì)使(shǐ)纯(chún)大(dà)模(mó)型(xíng)部(bù)署(shǔ)面(miàn)临(lín)挑(tiāo)战(zhàn)。业(yè)内(nèi)共(gòng)识(shi)是(shì)结(jié)合(hé)大(dà)小(xiǎo)模(mó)型(xíng)，实(shí)现(xiàn)成(chéng)本(běn)与(yǔ)效(xiào)率(lǜ)的(de)平(píng)衡(héng)。本(běn)次(cì)调(diào)研(yán)将(jiāng)深(shēn)入(rù)探(tàn)讨(tǎo)边(biān)缘(yuán)计(jì)算(suàn)的(de)技(jì)术(shù)发(fā)展(zhǎn)与(yǔ)落(luò)地(de)应(yīng)用(yòng)，为(wèi)企(qǐ)业(yè)战(zhàn)略决策提供结构化参考。欢迎企业报名参与，共谋行业发展未来。

　　如果说今年边缘计算有什么新变化，那无疑是大模型的开源化，为规模化落地提供重要支撑。

　　视觉物联在《2025边缘计算市场调研报告》的企业走访中发现，大模型一体机成为了今年炙手可热的明星产品，各大企业纷纷推出用于本地端的大模型一体机。

　　凭借强大的泛化能力与语义理解优势，大模型在众多领域展现出独特价值。例如在安防行业，它能够精准理解(jiě)“可(kě)疑(yí)人(rén)员(yuán)徘(pái)徊(huái)”等(děng)复(fù)杂(zá)语(yǔ)义(yì)，无(wú)需(xū)依(yī)赖(lài)大(dà)量(liàng)人(rén)工(gōng)标(biāo)注(zhù)样(yàng)本(běn)。

　　然(rán)而(ér)，边(biān)缘(yuán)设(shè)备(bèi)自(zì)身(shēn)存(cún)在(zài)的(de)算(suàn)力(lì)、存(cún)储(chǔ)及(jí)实(shí)时(shí)性(xìng)等(děng)方(fāng)面(miàn)的(de)限(xiàn)制，使得纯大模型部署困难重重，面临着算力成本高昂、实时性欠佳以及数据适配性差三大严峻挑战。

　　例如，一个7b参数的大模型在边缘端运行时，处理单路视频就需要数秒时间，难以满足多路并发处理的需求；在工业质检等对响应速度要求极高的场景中，大模型每秒仅能处理1帧的速度，远远无法达到毫秒级响应的标准；此外，边缘场景数据呈现碎片化特点，通用大模型的准确度仅为75%，需针对性优化。

　　小模型则凭借“小而精”的特性，在边缘端占据着传统优势，其训练数据量需求少、推理速度快（可达毫秒级）、硬件兼容性强。

　　但小模型也存在明显的短板，其语义理解能力相对薄弱，面对未训练过的复杂场景，如“识别戴安全帽且携带工具的工人”时往往束手无策；而且不同行业需求差异巨大，针对不同场景开发小模型需要重复投入，开发成本高达数十万级门槛。

　　业内的普遍共识是大小模型结合，小模型用于前置过滤，大模型进行深度理解，二者相辅相成，实现成本与效率的平衡。

　　例如，小模型先对视频流进行初筛，过滤99%的常规画面，大模型则补充(chōng)小(xiǎo)模(mó)型(xíng)算(suàn)法(fǎ)精(jīng)度(dù)问(wèn)题(tí)。以(yǐ)烟(yān)火(huǒ)检(jiǎn)测(cè)为(wèi)例(lì)，大(dà)模(mó)型(xíng)可(kě)以(yǐ)将(jiāng)误(wù)报(bào)从(cóng)15次(cì)降(jiàng)至(zhì)1次(cì)，将(jiāng)95%的(de)误(wù)报(bào)过(guò)滤(lǜ)掉(diào)。

　　对(duì)于(yú)无(wú)历(lì)史(shǐ)数(shù)据(jù)的(de)新(xīn)场(chǎng)景(jǐng)，如宠物行为识别，大模型可基于少量样本快速生成1.0版本算法，再通过小模型持续数据投喂提升精度，形成“0到1快速验证+1到100持续迭代”的闭环。

　　与过去传统方案动辄50万开(kāi)发(fā)费(fèi)及(jí)大(dà)量(liàng)标注数据的投入相比，大小模型结合后，5万元即可启动项目，极大地降低了开发门槛；同时，小模型运行于低功耗边缘盒子，大模型部署于算力稍强的边缘服务器，避免“杀鸡用牛刀”的资源浪费。

　　以智慧交通应用场景为例，小模型实时抓拍车牌、车型，大模型分析“多车连续变道”、“行人横穿马路”等复杂事件，为交通调度提供决策支持。

　　但不容忽视的是，目前国产化芯片还无法支持大模型运行，企业需通过模型轻量化（如量化、剪枝）与异构计算（CPU+NPU协同）缓解；在实际应用中，大部分企业仍不得不选择英伟达芯片。

　　小结

　　边缘计算的智能化变革，绝非大模型对小模型的替代，而是(shì)二(èr)者(zhě)在(zài)算(suàn)力(lì)、成(chéng)本(běn)、精(jīng)度(dù)间(jiān)寻(xún)找(zhǎo)最(zuì)优(yōu)解(jiě)的(de)过(guò)程(chéng)。对(duì)于企业而言，需以场(chǎng)景(jǐng)需(xū)求(qiú)为(wèi)导(dǎo)向(xiàng)，若(ruò)追(zhuī)求(qiú)极(jí)致(zhì)实(shí)时(shí)性(xìng)与(yǔ)成(chéng)本(běn)控(kòng)制(zhì)，小(xiǎo)模(mó)型(xíng)仍(réng)是(shì)首(shǒu)选(xuǎn)；若(ruò)面(miàn)临(lín)复(fù)杂(zá)语(yǔ)义(yì)理(lǐ)解(jiě)与(yǔ)创(chuàng)新(xīn)场(chǎng)景(jǐng)开(kāi)拓(tà)，大(dà)模(mó)型(xíng)则(zé)是(shì)破(pò)局(jú)关键。

　　视(shì)觉(jué)物(wù)联(lián)联(lián)合(hé)AIoT星(xīng)图(tú)研(yán)究(jiū)院(yuàn)已(yǐ)经(jīng)启动《2025边缘(yuán)计(jì)算市场调研报告》，将从技术发展与落地应用等方面展开深度调研，揭示行业基本面，洞察竞争格局，为企业战略制定、投资决策、市场拓展等提供结构化的参考依据。

　　我们拟将调研更多深耕边缘计算领域发展方向的企业，并从中总结行业发展现状以及未来发展趋势，供其他企业参考，欢迎企业踊跃报名参加。