边缘部署怎么选：算力、时延与数据边界

1. 从业务任务开始选架构

先区分图像识别、问答检索、数据分析和设备控制。不同任务对实时性、模型规模与并发的要求不同，不必把所有能力部署在同一设备上。

2. 本地部署也有持续成本

本地推理可以减少对外部模型请求的依赖，但仍有硬件采购、电力、存储、模型维护与运维成本。云端与本地应按相同用量、可用性目标与维护范围比较。

3. 明确哪些数据可以流动

记录、图像、诊断信息和模型更新的流向需要分别设计。明确网络隔离、用户权限、日志留存与备份要求；离线运行也应考虑运维和更新方式。

4. 用现场负载做原型验证

选择代表性数据和任务，评估推理耗时、输出质量、内存、并发与设备负载。弱网或断网时验证回退路径，再确定边缘主机、服务器或混合部署的交付形态。