概述
边缘AI（Edge AI）将AI模型部署到边缘网关、工控机或嵌入式设备，在数据产生处就地推理，无需将原始数据上传云端。相比云端AI，边缘AI具有低延迟（毫秒级响应）、隐私保护（数据不出场）、带宽节省（只上传推理结果）、离线可用（断网仍可推理）等优势。适用于工业质检、视频分析、设备预测性维护、智能安防等对实时性与隐私有要求的场景。TensorFlow Lite、ONNX Runtime、TensorRT、OpenVINO等框架支持边缘推理，可将云端训练的模型优化后部署到边缘。
物联网边缘AI的典型架构：云端负责模型训练与版本管理，边缘负责模型加载与推理。数据在边缘采集后直接输入模型，输出结果（如分类标签、异常分数）可本地触发动作（如告警、控制）或选择性上传云端。模型通过OTA下发，支持灰度更新、A/B测试。
核心能力
模型推理
图像识别（缺陷检测、OCR、人脸）、异常检测（振动、电流波形）、预测（剩余寿命、用量预测）。支持CNN、RNN、Transformer等模型结构。边缘设备算力有限，需选择轻量模型或优化后模型。
模型优化
量化（FP32→INT8降低计算与存储）、剪枝（移除冗余参数）、蒸馏（大模型指导小模型）、神经架构搜索（自动设计轻量结构）。目标是在精度损失可接受前提下，将模型压缩至边缘可运行。
模型下发与增量学习
云端训练完成后，将模型文件通过OTA推送到边缘。边缘支持模型热更新，无需重启。增量学习：边缘采集的标注数据反馈云端，用于模型迭代；或采用联邦学习，边缘本地训练，只上传梯度，保护数据隐私。
物联网典型应用
工业视觉质检：产线摄像头拍摄产品图像，边缘AI实时识别缺陷，NG品自动剔除。延迟要求毫秒级，数据涉及生产工艺不宜外传。
智能安防：边缘摄像头做人脸识别、行为分析、入侵检测，告警本地触发，视频流按需上传。
设备故障预测：振动、电流等传感器数据在边缘做异常检测，预测设备剩余寿命，提前预警。减少云端传输与存储成本。
农业病虫害识别：田间摄像头拍摄作物图像，边缘AI识别病虫害类型，指导精准施药。田间网络差，边缘推理更可靠。
技术选型
TensorFlow Lite、ONNX Runtime：跨平台，支持CPU/GPU/NPU。NVIDIA TensorRT：GPU推理优化。Intel OpenVINO：x86/ARM优化。华为Ascend、寒武纪等：国产AI芯片生态。选型需考虑边缘硬件（CPU/GPU/NPU）、模型格式兼容性、推理延迟与功耗。