// LATEST

模型只加载一次,是每个进程一次而不是整台机器一次

_initialized 避免同一个服务实例重复初始化,FastAPI 生命周期在启动时调用它。这种写法的边界是 Python 进程,而不是容器集群,更不是物理机器。

从全局变量推导内存副本

模块末尾创建 face_service,其内部持有模型分析器。每个工作进程有自己的模块状态和初始化标志。增加工作进程意味着需要重新评估模型副本、原生运行时线程、CPU 竞争及显存,而不是简单得到免费吞吐扩展。

项目直接运行入口固定为单进程,注释也提到模型内存。它与配置类 WORKERS=4 并不一致;部署时应看真实启动命令,不能仅看配置表。

磁盘缓存与内存常驻不同

Compose 将宿主机 ./models 挂到 /root/.insightface/models。这是跨容器重建保存模型文件,不是共享进程内的分析器。两个容器可以读同一份模型文件,但仍可能各自加载一份内存表示。

冷启动还包括模型文件是否存在、是否要获取权重、运行时准备和健康检查等待。只有缓存目录存在,不代表模型已经完整可用;也应关注版本、文件完整性和写权限。

一份更有价值的部署记录

建议每次发布记录进程数、每进程线程数、模型名、执行提供程序、模型文件校验值、容器限制与实际就绪时间。扩容前先给单实例建立基线,再比较多进程和多容器方案。

磁盘模型文件缓存 ≠ 进程模型常驻 ≠ 请求结果缓存

这三种“缓存”解决不同问题。前者减少重复获取文件,中间减少每请求初始化,后者减少重复计算。把它们混在一起,会错误解释启动速度、内存与吞吐。

本文只依据生命周期与挂载设计推导资源边界,没有启动该模型或测量单实例内存。仓库示例资源额度不应被当成已验证的容量承诺。


源码与阅读导航

本文属于「人脸识别服务源码笔记」第 10 篇。依据固定提交 b85ee88017bc 研读,后续版本可能不同。

全部专题与阅读顺序 · 上一篇:配置看起来兼容 Pydantic 两代,为什么仍要逐行核对 · 下一篇:Prometheus 指标能被抓取,不代表指标语义正确

还没有评论

欢迎留下你的观点,保持交流的清晰和友好。

写下评论