ericwyuan
|
9b1cc8f93b
|
[阶段2] FAM-Edge 重构为整视频分析+同步接口+人物服务 - 移除切片/抽帧/队列，新增 oracle_db/person_service/qa/watch_processor/video_processor，api_gateway 提供 /api/oracle/sync 与 /api/oracle/people/correct
|
2026-08-21 10:38:15 +08:00 |
|
ericwyuan
|
80b2fcc40c
|
fix: 视频时间语义修正 — 绝对时间戳偏移换算 + mtime 起点修正 + 直传超时
三处时间语义 bug（时区统一排查的延伸发现）:
1. NVIDIA 集锦偏移语义: frame_timestamps 是绝对时间
'YYYY-MM-DD HH:MM:SS'(当日秒 77474s)被直接当视频内偏移用，
seek 超出 30 分钟视频 → 0 帧 → 集锦恒为空 → 视频模式永远降级。
修复: analyze_video 增加 event_start_time 参数，偏移 =
帧时间 - 视频开始时间(跨午夜 +86400)；orchestrator 两处
调用点透传。另加 ffprobe 时长过滤跳过超界片段(日志明示)，
fps=15 统一 CFR 输出。
2. NAS dispatcher event_start_time: 原用文件 mtime(=录制结束
时刻)，真实开始时间应为 mtime - 视频时长，事件时间整体偏移
一个视频周期(~30min)。新增 _probe_duration 用 ffmpeg 解析
Duration(NAS 无独立 ffprobe)。
3. 直传超时: 压缩后 ~19MB 略低于 20MB 分块阈值走直传，
timeout(10,120) 在 1Mbps 下传 19MB 需 ~152s 必超时(task 42
三连败 FAILED)。加大到 (10, 300)。
测试数据陷阱记录: 两轮 0KB/9.47s 集锦异常均为测试时间戳超出
视频时长所致(1801s>1800s)，单输入/多输入 concat 行为本身正常。
|
2026-08-20 17:58:16 +08:00 |
|
ericwyuan
|
795e8acc6c
|
fix: 时区统一北京时区 — Edge(UTC机器)三处时间处理修复
背景: Oracle Edge 机器为 UTC 时区，NAS 与视频均为北京时间，
网页要求统一北京时区。排查结论: NAS 端(北京时间)与 UI(直读
MariaDB)均正确，问题集中在 Edge 端三处。
1. queue_manager: 7 处 datetime('now','localtime') 在 UTC 机器上
写入 UTC 时间(比北京慢8h)，全部改为 datetime('now','+8 hours')
2. preprocessor.compute_timestamps: event_start_time 缺失时 fallback
datetime.now() 用了 Edge 本地时间(UTC)，改为北京时间
datetime.now(timezone(+8h))；带时区的 ISO 输入统一转北京时间
3. nvidia_adapter._ts_to_seconds: 不支持生产格式
'YYYY-MM-DD HH:MM:SS'(split后int抛ValueError全部返回-1)，
导致集锦视频永远为空、视频模式永远降级逐帧——上一轮引入的
bug，测试用 HH:MM:SS 格式未暴露。现支持两种格式；drawtext
标签与提示词同步为完整时间戳说明
数据修正: event 17(task 298 手动测试缺 event_start_time)的
frame_timestamp 全为 UTC，按视频文件名真实时间(04:34:10)重算；
Edge 队列存量时间戳 +8h。
验证: 单测三例通过(生产格式解析/fallback北京时间/ISO带时区转换)；
task 41 新代码正确写入北京时间 17:36:52。
|
2026-08-20 17:41:59 +08:00 |
|
ericwyuan
|
55633d3302
|
feat: NVIDIA 切换到原生视频输入 — nemotron-3-nano-omni + 集锦视频单次调用
调研结论: build.nvidia.com 免费托管 API 上 video-llama3-8b 与
qwen2.5-vl-72b 已下线(404)，nvidia/nemotron-3-nano-omni-30b-a3b-reasoning
可用(200, 40RPM 免费额度内)，原生支持 video_url 输入(MP4 base64)。
实现:
1. nvidia_adapter 新增 analyze_video: 按关键帧时间点截取 ±1.5s 片段
(drawtext 叠加时间戳，连字符避免冒号转义)拼集锦视频，640 宽 CRF28，
base64 后经 video_url 单次调用，输出全 schema JSON(frame_details +
global_summary + entities_json)并归一化对齐时间戳
2. analyze_frames 保留为无视频文件时的降级路径; chat max_tokens
512→2048(reasoning 模型 token 消耗大); timeout 20→120s
3. orchestrator.run_visual_analysis 增加 video_path 参数，fallback 循环
对支持 analyze_video 的适配器优先走视频模式，失败自动降级逐帧
实测(360MB 测试视频, 3 关键帧): 集锦 107KB, 全程 37s, 动态动作识别准确
(走动→坐沙发→坐餐桌)，跨片段综合摘要正常 — 显著优于旧逐帧静态识别。
|
2026-08-20 17:21:33 +08:00 |
|
ericwyuan
|
853cb21542
|
fix: NVIDIA single-frame JSON parsing + Gemini timeout/circuit breaker tuning
NVIDIA fix:
- Replace parse_vlm_json (requires full schema: global_summary/entities_json/
frame_details/compute_provider) with lightweight _parse_single_frame_json
that only extracts per-frame fields (person/action/clothing/etc)
- Root cause: NVIDIA adapter does per-frame analysis returning single-frame
JSON, but parse_vlm_json rejected it for missing full-schema fields
- Verified: task 297 → 6/6 frames parsed successfully, first SUCCESS
Gemini + circuit breaker tuning:
- Gemini timeout: 30s → 90s (multi-image vision analysis needs more time)
- NVIDIA timeout: 20s → 30s (per-frame API call)
- Circuit breaker threshold: 3 → 5 (less aggressive tripping)
- Circuit breaker cooldown: 600s → 300s (faster recovery)
|
2026-08-20 11:02:26 +08:00 |
|
ericwyuan
|
babf5b09a9
|
[架构重构] 移除本地Ollama融合，云端直出JSON直存DB，Q&A三模型降级
1. 视频摘要链路：云端VLM直出结构化JSON → Edge format_cloud_result格式化校验 → 直存NAS DB（移除run_text_fusion本地融合）
2. 智能问答链路：Gemini→NVIDIA→Ollama降级，新增chat()纯文本问答方法
3. 适配器重构：base/gemini/nvidia/ollama adapter新增chat()；gemini多图单请求结构化JSON；nvidia逐帧调用聚合
4. 端点变更：/api/edge/chat → /api/edge/chat/ask，调orchestrator.run_qa()
5. chat_handler改经Edge Q&A编排，不再直连Ollama
6. 配置更新：ollama_url → qa_url，Ollama role注释改为Q&A兜底
7. README同步更新架构描述、拓扑图、时序图、模块表
|
2026-08-20 10:21:09 +08:00 |
|
ericwyuan
|
99d75a4bda
|
feat(adapter): 云端视觉适配器 + role 角色区分
- base_adapter 增加 role 字段(vision/text)与 get_role()
- gemini_adapter 修复 v1beta 下模型名 404(gemini-1.5-flash→gemini-flash-latest), 改逐帧调用
- 新增 nvidia_adapter(openai SDK, 规避 NIM 单次限 1 图逐帧), 注册 adapter_factory
- 视觉分析仅 vision 角色参与, 文本融合交给 role=text 模型
|
2026-08-20 09:11:44 +08:00 |
|