PROJECT / 工程实践
超大仓库分布式编译加速
围绕重复下载、重复构建与缓存复用,缩短超大仓构建路径。
项目目标
华为云云龙 DevOps 时期,面向昇腾、鸿蒙超大仓库源码构建场景开展分布式编译优化。任务的核心是追踪构建链路里的重复工作:同一文件为何被反复下载、可复用结果为何仍触发构建,以及已有缓存命中后哪些路径仍然消耗大量资源。
组件与架构
相关技术包括 Bazel、BuildBarn、内容寻址存储 CAS 与 fastpath 快速路径。图示只组织已在履历中确认的技术与数据流,不给出私有集群拓扑;fastpath 表示当时增加的优化路径,不声称是一种可直接照搬的通用调度算法。
关键流程
从源码构建任务出发分析输入下载和执行过程,检查缓存复用边界,定位重复文件下载与重复构建问题,再对可缩短的路径增加 fastpath。优化关注避免不必要的工作,而不仅是继续增加机器。
工程取舍
高缓存命中率并不意味着构建成本已足够低:超大仓规模下,剩余路径仍可能占用显著资源。展示时将命中率、资源口径与耗时改善分别说明,避免把不同维度数字合并成未经测量的新收益。
成果与证据口径
按本人既有履历,CAS 缓存规模为 800T,命中 95%+ 时仍占用 2 万核 CPU、40 TB 内存;构建耗时缩短 70%。2026-09-09 素材记录将这些数字标为本人提供的历史口径,尚待当时看板或报告补证;不代表当前集群性能。