先把持续检测和大模型增强分开
摄像头画面巡检、人员车辆检测、区域占用、停留和跨线等任务,需要稳定的处理速度和结构化输出,适合由本地视觉模型与连续事件规则持续执行。视觉语言模型擅长结合图片、上下文和文字理解复杂场景,但推理耗时、输出稳定性和调用成本更难固定。
因此,监控系统不宜把所有画面直接交给大模型。更稳妥的结构是:本地分析持续形成事件事实,再把筛选后的关键帧、前后文和结构化结果交给大模型增强服务按需处理。远程接口超时或模型暂时不可用时,本地告警、录像和分发仍应照常运行。
大模型增强不只用于确认告警
视觉大模型接入监控系统后,可以承担多种独立工作流:
- 事件确认:补充说明证据是否支持本地规则结论;
- 事件解释:描述现场关系、遮挡情况和不确定原因;
- 片段摘要:概括一个事件前后的关键变化;
- 时段报告:整理指定通道或区域在一段时间内的重要事件;
- 事件查询:根据已经保存的事件证据回答“过去一小时发生了什么”等问题。
这些结果可以补充处置依据,但不应删除、覆盖或重新定义本地告警。每条大模型分析结果都应保留来源事件 ID、证据摘要、模型和服务配置版本,便于复查与导出。
自动事件分析与按需深度分析分别配置
同一套系统可以同时连接两个 OpenAI 风格的视觉接口。自动事件分析适合按策略处理重点事件,可部署在 StreamGate 本机、局域网 GPU 主机或成本可控的远程服务;按需深度分析适合复杂事件、人工发起的摘要和时段报告,可以使用更强但响应更慢或费用更高的模型。
用户自行部署的 Qwen 等视觉模型可以通过 vLLM、Ollama 或其他兼容服务接入;公网模型服务则适合低频验证或缺少本地算力的项目。两类服务不应共用调用上限:自建服务可以采用较短冷却和较高日用量,远程计费服务可以采用较长冷却和更严格的分钟、日调用及输出长度限制。
用证据预算控制延迟和费用
每个服务应独立设置证据帧数、是否优先使用目标区域、单通道冷却、分钟和日调用上限、并发、超时、重试次数及最大输出长度。默认只提交与事件有关的少量关键帧,不持续上传视频,也不因为一个任务失败而无限重试。
自动触发适合处理高价值事件;片段摘要、时段报告和自然语言查询更适合由值守人员按需发起。对于远程计费服务,还应在界面中显示当日调用量,并允许取消尚未完成的任务。
自建服务和远程接口的数据边界
回环地址可用于同机部署,私有地址可用于局域网服务,公网地址应强制使用 HTTPS。API Key 需要加密保存,读取设置时不能返回明文。读取模型列表不需要发送画面;进行画面连接测试或启用公网分析前,应在设置中明确确认事件证据的发送范围,并核对服务方的图片留存、处理区域、日志和删除政策。
为避免错误配置把证据发送到意外地址,系统还应限制重定向并区分回环、私有网络和公网部署策略。任务记录中不应保存明文密钥,也不应在失败信息中泄露请求头。
输出必须结构化并能够追溯
模型输出应采用受限 JSON,而不是把不稳定的长文本直接写入告警列表。事件确认需要明确 confirmed、not_confirmed 或 uncertain;解释、摘要、报告和查询则应分别使用固定字段,并限制标签数量和文本长度。
大模型增强任务使用独立有界队列,记录排队、执行、延期、完成、失败或取消状态。结果应引用不可变的来源事件及证据摘要;本地结果被清理后,仍要能够知道分析结论依据了哪些来源,而不是留下无法核对的孤立文本。

上线前怎样验收
准备已确认、未确认和无法判断三类真实事件,并分别验证自动解释、人工摘要、时段报告和事件查询。再模拟超时、限流、服务重启、无效 JSON、错误证书、网络中断和任务取消,确认本地告警、证据图片、检索和导出不受影响。
上线评估应关注误报处置时间、值守人员查看效率、单次事件成本和结果可追溯性,而不是只比较回答是否“像人”。对于身份识别、医疗判断或其他高风险结论,不应从普通监控图片中推断不可见事实。
