導讀：邊緣計算的智能化變革，絕非大模型對小模型的替代，而是二者在算力、成本、精度間尋找最優解的過程。
如果說今年邊緣計算有什么新變化，那無疑是大模型的開源化，為規模化落地提供重要支撐。
視覺物聯在《2025邊緣計算市場調研報告》的企業走訪中發現，大模型一體機成為了今年炙手可熱的明星產品，各大企業紛紛推出用于本地端的大模型一體機。
憑借強大的泛化能力與語義理解優勢，大模型在眾多領域展現出獨特價值。例如在安防行業，它能夠精準理解“可疑人員徘徊”等復雜語義，無需依賴大量人工標注樣本。
然而，邊緣設備自身存在的算力、存儲及實時性等方面的限制，使得純大模型部署困難重重，面臨著算力成本高昂、實時性欠佳以及數據適配性差三大嚴峻挑戰。
例如，一個7b參數的大模型在邊緣端運行時，處理單路視頻就需要數秒時間，難以滿足多路并發處理的需求；在工業質檢等對響應速度要求極高的場景中，大模型每秒僅能處理1幀的速度，遠遠無法達到毫秒級響應的標準；此外，邊緣場景數據呈現碎片化特點，通用大模型的準確度僅為75%，需針對性優化。
小模型則憑借“小而精”的特性，在邊緣端占據著傳統優勢，其訓練數據量需求少、推理速度快（可達毫秒級）、硬件兼容性強。
但小模型也存在明顯的短板，其語義理解能力相對薄弱，面對未訓練過的復雜場景，如“識別戴安全帽且攜帶工具的工人”時往往束手無策；而且不同行業需求差異巨大，針對不同場景開發小模型需要重復投入，開發成本高達數十萬級門檻。
業內的普遍共識是大小模型結合，小模型用于前置過濾，大模型進行深度理解，二者相輔相成，實現成本與效率的平衡。
例如，小模型先對視頻流進行初篩，過濾99%的常規畫面，大模型則補充小模型算法精度問題。以煙火檢測為例，大模型可以將誤報從15次降至1次，將95%的誤報過濾掉。
對于無歷史數據的新場景，如寵物行為識別，大模型可基于少量樣本快速生成1.0版本算法，再通過小模型持續數據投喂提升精度，形成“0到1快速驗證+1到100持續迭代”的閉環。
與過去傳統方案動輒50萬開發費及大量標注數據的投入相比，大小模型結合后，5萬元即可啟動項目，極大地降低了開發門檻；同時，小模型運行于低功耗邊緣盒子，大模型部署于算力稍強的邊緣服務器，避免“殺雞用牛刀”的資源浪費。
以智慧交通應用場景為例，小模型實時抓拍車牌、車型，大模型分析“多車連續變道”、“行人橫穿馬路”等復雜事件，為交通調度提供決策支持。
但不容忽視的是，目前國產化芯片還無法支持大模型運行，企業需通過模型輕量化（如量化、剪枝）與異構計算（CPU+NPU協同）緩解；在實際應用中，大部分企業仍不得不選擇英偉達芯片。
小結
邊緣計算的智能化變革，絕非大模型對小模型的替代，而是二者在算力、成本、精度間尋找最優解的過程。對于企業而言，需以場景需求為導向，若追求極致實時性與成本控制，小模型仍是首選；若面臨復雜語義理解與創新場景開拓，大模型則是破局關鍵。
視覺物聯聯合AIoT星圖研究院已經啟動《2025邊緣計算市場調研報告》，將從技術發展與落地應用等方面展開深度調研，揭示行業基本面，洞察競爭格局，為企業戰略制定、投資決策、市場拓展等提供結構化的參考依據。
我們擬將調研更多深耕邊緣計算領域發展方向的企業，并從中總結行業發展現狀以及未來發展趨勢，供其他企業參考，歡迎企業踴躍報名參加。
