机器人数据采集平台
工程实践 · 脱敏逻辑视图
目标与范围
把机械臂采集节点上的数据可靠送入对象存储,并让上传路径、失败原因和异常数据都能被追踪。节点侧使用 systemd 常驻采集 Agent,目录扫描、任务路由、分片上传与心跳上报分工清晰;任务台用于观察采集与上传状态。
组件与架构
站点配置给出任务指令到对象前缀的映射,另一类设备沿用固定路径。目录布局区分 episode 与 task,路由命中分支随任务上报。systemd 负责进程守护和资源限制,文件租约能力用于降低写入过程中被截断的风险。
执行流程
Agent 扫描目录后解析任务类型并选定对象路径,达到分片阈值(≥64 MiB)时采用分片上传;重启后通过 ListParts 核对已确认内容,仅补未完成部分。对象写入携带条件约束,发生同名并发时保留已有对象。升级包使用独立签名验证,避免任意文件被当作更新执行。
工程取舍
不合规路径不被静默丢弃:文件进入违规兜底命名空间,同时按原因分类上报。幂等写入优先保护已有数据,但冲突仍需任务层处理;路径规则显式化增加配置工作,却让错误可以追溯到具体分支。
验证边界
已有素材包含节点运行、任务台、违规统计和采集窗口监控截图。窗口累计数据量与平均速率只说明对应时间窗口,不能替代持续吞吐压测。此页不把任务数量等同于文件数量,也不将含重试的失败任务直接解释为数据丢失。